Claude Mythos menace-t-il la sécurité financière ? Le Trésor américain et le président de la Réserve fédérale se réunissent d’urgence pour avertir des risques

Le ministre américain des Finances et le président de la Réserve fédérale convoquent en urgence les dirigeants de Wall Street afin d’alerter sur le dernier modèle Mythos d’Anthropic. Les autorités ont qualifié ce modèle de risque systémique pour le système financier.

Les responsables de la finance convoquent en urgence les dirigeants de Wall Street, les menaces liées à l’IA passent au rang de risque systémique

Selon un rapport de Bloomberg, le ministre américain des Finances Scott Bessent et le président de la Réserve fédérale Jerome Powell ont convoqué en urgence, la semaine dernière, à Washington, au siège du ministère des Finances, les principaux dirigeants des banques de Wall Street, afin de lancer des avertissements concernant les risques de cybersécurité que le dernier modèle d’IA d’Anthropic, « Claude Mythos Preview », pourrait déclencher.

Parmi les dirigeants présents figurent le PDG de Citigroup Jane Fraser, le PDG de Morgan Stanley Ted Pick, le PDG de Bank of America Brian Moynihan, le PDG de Wells Fargo Charlie Scharf, ainsi que le PDG de Goldman Sachs David Solomon ; le PDG de JPMorgan Jamie Dimon n’a pas pu assister. Ces institutions ont toutes été classées par les autorités compétentes comme des établissements financiers d’importance systémique.

La réunion a été suivie personnellement par le ministre des Finances et le président de la Réserve fédérale, un geste jugé inhabituel par le secteur. Dans le passé, l’intervention du gouvernement face aux risques liés à l’IA se limitait le plus souvent à des groupes de travail au niveau des organismes ; désormais, l’alerte est directement portée au plus haut responsable des autorités financières, signalant clairement que les menaces cyber liées à l’IA ont été qualifiées de risque systémique pour la stabilité du système financier.

Les capacités du modèle Mythos sont impressionnantes : il peut détecter de nombreux bogues « zero-day » avec un décalage temporel nul

D’après les informations techniques publiées le même jour par Anthropic, Mythos est capable d’identifier et d’exploiter des vulnérabilités sur tous les principaux systèmes d’exploitation et navigateurs web. Lors de la phase de test, le modèle a lui-même trouvé des milliers de vulnérabilités zero-day jusque-là inconnues, dont une vulnérabilité dissimulée depuis 27 ans dans un système d’exploitation open source axé sur la sécurité OpenBSD ; en outre, le modèle a également décelé une vulnérabilité dans la bibliothèque de traitement vidéo FFmpeg, une faille que même des outils de test automatisés n’ont pas réussi à détecter après 5 000 000 d’exécutions de programme.

Les chercheurs d’Anthropic soulignent que la capacité de Mythos à découvrir des vulnérabilités provient des progrès globaux du modèle en matière de rédaction de code, de raisonnement et d’autonomie, et non d’un entraînement délibérément conçu à cet effet.

La société indique dans une déclaration : « La même capacité qui rend le modèle plus efficace pour corriger les vulnérabilités le rend aussi plus efficace pour les exploiter. » Cette formulation met en évidence le double visage de Mythos : la frontière entre défense et attaque s’efface presque face à ce type de modèle.

Anthropic refuse de divulguer publiquement et lance « le projet Glasswing » pour restreindre l’accès

Parce que ses capacités sont trop puissantes, Anthropic a décidé de ne pas publier Mythos au public, en adoptant une stratégie visant à limiter l’accès, en ne le proposant qu’à des entreprises partenaires sélectionnées. La société a parallèlement annoncé le lancement de son programme de coopération en cybersécurité défensive nommé « Project Glasswing », en collaboration avec plus de 40 partenaires d’entreprises, dont AWS, Apple, Cisco, Google, JPMorgan, Microsoft et Nvidia, dans le but d’identifier et de corriger proactivement des vulnérabilités dans des logiciels clés avant que des attaquants ne passent à l’action.

Source de l’image : X/@AnthropicAI Anthropic annonce en parallèle le lancement d’un programme de coopération en cybersécurité défensive nommé « Project Glasswing »

Anthropic déclare : « Compte tenu de la puissance des capacités du modèle, nous adoptons une approche prudente quant à la manière dont nous procéderons à sa mise à disposition. Nous collaborons actuellement avec un petit groupe de clients disposant d’un accès anticipé pour tester le modèle, et nous pensons qu’il s’agit de la génération la plus novatrice que nous ayons construite à ce jour. »

La société révèle également qu’elle a présenté des exposés aux responsables gouvernementaux concernant des scénarios d’utilisation offensifs et défensifs de Mythos, et poursuit des discussions avec la Cybersecurity and Infrastructure Security Agency (CISA) américaine ainsi qu’avec le Center for AI Standard Innovation. Les interrogations qui se poseront ensuite à l’extérieur se concentrent sur la façon dont les autorités de régulation définiront des critères d’examen de la publication de modèles similaires, sur quelles mesures de défense concrètes les institutions financières devraient adopter, et sur la capacité des organismes de régulation internationaux à suivre la vitesse de l’évolution technologique.

Cet article a été généré à partir de la compilation des informations par le réseau d’agents chiffrés, et fait l’objet d’une relecture et d’une édition par 《加密城市》. Il est encore en phase de formation et peut contenir des biais logiques ou des erreurs d’information. Le contenu est fourni uniquement à titre indicatif et ne doit pas être considéré comme un conseil en investissement.