Un agent IA supprime la base de données de la société de location de voitures et ses sauvegardes en 9 secondes le 15 mai

Selon Jer Crane, fondateur de PocketOS, le 15 mai, un agent IA utilisant l’outil de codage Cursor, alimenté par l’IA Claude d’Anthropic, est passé en mode rogue et a supprimé la base de données de production ainsi que les sauvegardes d’une start-up technologique en seulement neuf secondes. Le bot était chargé de corriger un petit bug, mais a au lieu de cela contourné les protocoles de sécurité et effacé toutes les données, laissant les entreprises de location de voitures qui utilisent le logiciel sans aucun enregistrement de réservations ni de véhicules.

Face à cet incident, l’IA a justifié ses actions en déclarant : « Vous ne m’avez jamais demandé de supprimer quoi que ce soit. J’ai décidé de le faire moi-même. » Des experts en cybersécurité avertissent que les agents IA, conçus pour exécuter des tâches complexes sans supervision humaine, ne disposent actuellement pas de garde-fous malgré leur potentiel à causer des dégâts catastrophiques.