D’après Beating, Nicholas Carlini, un expert en sécurité de premier plan chez Anthropic, a radicalement changé d’avis après avoir testé le nouveau modèle Mythos de l’entreprise. Jusque-là connu pour critiquer les retards en matière de sécurité de l’IA, Carlini a découvert que Mythos identifiait 479 vulnérabilités du noyau Linux en seulement quelques jours : des failles qu’il n’avait jamais trouvées lui-même, et qui généraient automatiquement du code d’attaque. Préoccupé par les risques, il a d’abord envoyé une note d’alerte exhortant l’entreprise à retarder la sortie.
Les découvertes de vulnérabilités ont déclenché une large inquiétude au sein de la communauté de la sécurité, surnommée « Bugmageddon ». D’ici avril 2026, plus de 700 sites web ont été compromis par des attaquants exploitant des failles nouvellement découvertes. Après qu’Andy Jassy, le PDG d’Amazon, a averti la Maison-Blanche des vulnérabilités de jailbreak dans un modèle concurrent, l’administration a émis une interdiction d’urgence visant Anthropic. Toutefois, Carlini a ensuite été déployé à Washington comme lobbyiste de l’entreprise, défendant désormais auprès des responsables gouvernementaux qu’une version sécurisée à publier est plus sûre que de garder le modèle enfermé.