Claude Mythos menace-t-il la sécurité financière ? Le secrétaire américain au Trésor et le président de la Fed se réunissent d’urgence pour avertir des risques

Le ministre américain des Finances et le président de la Réserve fédérale convoquent en urgence les dirigeants de Wall Street afin de lancer un avertissement concernant le dernier modèle Mythos d’Anthropic. Les autorités ont qualifié ce modèle de risque systémique pour le système financier.

Les responsables des finances convoquent en urgence les dirigeants de Wall Street ; les menaces liées à l’IA passent au rang de risque systémique

Selon un rapport de Bloomberg, le ministre américain des Finances, Scott Bessent, et le président de la Réserve fédérale, Jerome Powell, ont convoqué la semaine dernière en urgence, au siège du département du Trésor à Washington, les PDG des principales banques de Wall Street, afin d’émettre des avertissements au sujet des risques de cybersécurité que pourrait engendrer le dernier modèle d’IA d’Anthropic, « Claude Mythos Preview ».

Parmi les dirigeants présents figuraient le PDG de Citigroup, Jane Fraser, le PDG de Morgan Stanley, Ted Pick, le PDG de Bank of America, Brian Moynihan, le PDG de Wells Fargo, Charlie Scharf, et le PDG de Goldman Sachs, David Solomon ; le PDG de JPMorgan, Jamie Dimon, n’a pas pu assister. Ces institutions ont toutes été désignées par les autorités de tutelle comme des établissements financiers d’importance systémique.

Cette réunion, à laquelle le ministre des Finances et le président de la Réserve fédérale ont assisté personnellement, est perçue par le secteur comme un geste exceptionnel. Lors du passé, l’intervention du gouvernement face aux risques liés à l’IA s’est généralement limitée à des groupes de travail au niveau des institutions ; désormais, l’alerte passe directement au niveau le plus élevé des autorités financières, avec l’avertissement personnel des plus hauts responsables, ce qui montre clairement que les autorités ont classé les menaces de cybersécurité liées à l’IA comme un risque systémique pour la stabilité du système financier.

Les capacités du modèle Mythos sont impressionnantes : il identifie et exploite de nombreuses failles « zero-day » à grande échelle

D’après les informations techniques publiées le même jour par Anthropic, Mythos est capable d’identifier et d’exploiter des failles sur tous les systèmes d’exploitation et navigateurs web les plus courants. En phase de test, le modèle a lui-même découvert des milliers de failles zero-day jusque-là inconnues, dont notamment une vulnérabilité dans un système d’exploitation open source orienté sécurité, OpenBSD, qui dormait depuis 27 ans ; en outre, le modèle a aussi repéré une vulnérabilité dans la bibliothèque de traitement vidéo FFmpeg, une faille que même des outils de test automatisés exécutant 5 000 000 de fois des programmes n’arrivaient pas à détecter.

Les chercheurs d’Anthropic soulignent que la capacité de découverte de failles de Mythos découle des progrès globaux du modèle en matière d’écriture de code, de raisonnement et d’autonomie, et non d’un entraînement délibérément conçu à cet effet.

Dans une déclaration, la société a indiqué : « La même capacité qui rend le modèle plus efficace pour corriger les failles le rend tout autant plus efficace pour les exploiter. » Cette remarque met en évidence le caractère à double tranchant de Mythos : la frontière entre défense et attaque s’efface presque devant ce type de modèle.

Anthropic refuse de divulguer publiquement : lancement du « Project Glasswing » pour limiter l’accès

Parce que ses capacités sont jugées trop puissantes, Anthropic a décidé de ne pas publier Mythos au public, en adoptant une stratégie de limitation de l’accès, réservé à des entreprises partenaires spécifiques. La société a parallèlement annoncé le lancement d’un programme collaboratif défensif de cybersécurité nommé « Project Glasswing », en coopération avec plus de 40 partenaires d’entreprise, dont AWS, Apple, Cisco, Google, JPMorgan, Microsoft et Nvidia, dans le but d’identifier et de corriger proactivement des vulnérabilités dans des logiciels clés avant que les attaquants ne passent à l’action.

Source de l’image : X/@AnthropicAI Anthropic annonce simultanément le lancement du programme collaboratif défensif de cybersécurité nommé « Project Glasswing »

Anthropic indique : « Compte tenu de la puissance des capacités du modèle, nous adoptons une approche prudente en matière de diffusion. Nous travaillons actuellement avec un petit groupe de clients bénéficiant d’un accès anticipé pour tester le modèle, et nous pensons qu’il s’agit de la génération la plus novatrice que nous ayons construite à ce jour. »

La société révèle aussi qu’elle a présenté aux responsables gouvernementaux des exposés portant sur les scénarios d’utilisation offensive et défensive de Mythos, et qu’elle continue d’échanger avec la Cybersecurity and Infrastructure Security Agency des États-Unis (CISA) et le AI Standard Innovation Center. L’attention du public se concentre ensuite sur la façon dont les autorités de régulation établiront des normes d’examen de la diffusion pour des modèles similaires, sur les mesures de défense concrètes que les institutions financières devraient prendre, et sur la capacité des organismes de régulation internationaux à suivre le rythme de l’évolution technique.

Ce contenu a été généré par une agrégation des informations provenant de divers acteurs via un Agent crypté, et a été relu et édité par《加密城市》 ; il est encore en phase de formation, et peut comporter des écarts logiques ou des erreurs d’information. Le contenu est fourni à titre indicatif uniquement ; ne le considérez pas comme un conseil en investissement.