Le PDG d’Anthropic, Dario Amodei, a publié un essai de politique le 10 juin, appelant à des tests obligatoires par des tiers pour les modèles d’IA de pointe, avec une autorité gouvernementale permettant de bloquer les systèmes qui échouent à des audits de sécurité. L’essai, intitulé « Policy on the AI Exponential », est arrivé un jour après qu’Anthropic a publié Claude Fable 5 et a été accompagné d’une proposition législative sur les tests de modèles ainsi que d’un cadre de déplacement d’emplois. Amodei a déclaré que la transparence, à elle seule, n’est plus à la hauteur des risques posés par une technologie d’IA progressant rapidement. En 2025, Anthropic a soutenu des lois axées sur la divulgation, dont le SB 53 en Californie, le RAISE Act dans l’État de New York et le SB 315 dans l’Illinois, mais Amodei propose désormais un régime calqué sur l’Administration fédérale de l’aviation (FAA), exigeant que les modèles dépassant un seuil de calcul fassent l’objet d’audits obligatoires dans quatre domaines : cybersécurité, armes biologiques, perte de contrôle et recherche automatisée sur l’IA.
Amodei propose des audits obligatoires par des tiers pour l’IA
La proposition d’Amodei exige que les modèles d’IA de pointe au-dessus d’un seuil de calcul fassent l’objet d’audits obligatoires par des tiers dans quatre domaines : cybersécurité, armes biologiques, perte de contrôle et recherche automatisée sur l’IA. « Les modèles d’IA de pointe, comme des avions, devraient être soumis à des tests techniques et à des audits, et leur publication devrait être bloquée ou inversée comme une menace pour la sécurité publique s’ils ne répondent pas à des standards élevés de sécurité », a écrit Amodei dans l’essai. Le plan va plus loin que le décret exécutif du 10 juin de la Maison-Blanche sur l’IA, que Amodei a salué comme une avancée progressive. La proposition inclut le signalement des incidents de sécurité liés aux prompts et une protection stricte des poids des modèles.
La prévisualisation Claude Mythos résout 73 % des défis cyber d’experts
Amodei a identifié la cybersécurité comme le premier risque à se matérialiser pleinement, en pointant la prévisualisation Claude Mythos, qui a résolu 73 % des défis de cybersécurité au niveau expert que nul autre système d’IA n’avait réussi auparavant. L’essai avertit que les modèles de pointe pourraient perturber le secteur financier et les infrastructures critiques. Anthropic a livré le modèle Claude Fable 5 le 9 juin avec des garde-fous qui bloquent les requêtes à haut risque en cybersécurité et en biologie. Amodei a déclaré que ces limites volontairement appliquées ne peuvent pas remplacer des règles contraignantes à l’échelle de l’industrie. Les propres données d’Anthropic montrent que l’IA construit une meilleure IA, avec Claude qui écrit la plupart du code dans les grands laboratoires d’IA.
Anthropic propose une assurance de salaire et des subventions de formation pour la main-d’œuvre
L’essai propose une assurance de salaire, des incitations fiscales à la rétention et des subventions de formation pour la main-d’œuvre afin de faire face au déplacement économique. Si le déplacement s’avère durable, Amodei a indiqué que le revenu de base universel pourrait être financé par des impôts sur les entreprises ou sur les plus-values. Sur les libertés civiles, Amodei appelle à une interdiction, dans le droit de l’application domestique de la loi, des armes entièrement autonomes et exhorte le Congrès à combler la faille des courtiers de données qui permet d’acheter de la surveillance en masse. Géopolitiquement, il appelle à une coalition de démocraties pour contrôler les puces et les équipements de fabrication de semi-conducteurs, citant les projets de loi US MATCH et OVERWATCH en attente comme premières étapes vers des contrôles d’exportation plus stricts et mieux coordonnés.
FAQ
Que Dario Amodei a-t-il proposé le 10 juin ?
Dario Amodei a publié un essai intitulé « Policy on the AI Exponential » le 10 juin, proposant des tests obligatoires par des tiers pour les modèles d’IA de pointe, avec une autorité gouvernementale permettant de bloquer les systèmes qui échouent à des audits de sécurité dans quatre domaines : cybersécurité, armes biologiques, perte de contrôle et recherche automatisée sur l’IA.
Pourquoi Amodei a-t-il qualifié la cybersécurité de premier risque à se matérialiser pleinement ?
Amodei s’est appuyé sur la prévisualisation Claude Mythos, qui a résolu 73 % des défis cyber d’experts que nul système d’IA n’avait réussi auparavant, en avertissant que les modèles de pointe pourraient perturber le secteur financier et les infrastructures critiques.
Quelles mesures économiques Anthropic a-t-il proposées dans l’essai ?
Anthropic a proposé une assurance de salaire, des incitations fiscales à la rétention et des subventions de formation pour la main-d’œuvre afin de traiter le déplacement d’emplois, avec un revenu de base universel financé par des impôts sur les entreprises ou sur les plus-values si le déplacement s’avère durable.
