アンソロピック（Anthropic）のCEOダリオ・アモデイは6月10日、最先端AIモデルに対する第三者による強制テストを求める政策エッセイを公表し、安全性監査に失敗したシステムを政府の権限で遮断できるようにするべきだと主張した。このエッセイは「Policy on the AI Exponential」と題され、ア ンソロピックがClaude Fable 5をリリースした1日後に「公表された（掲載された）」ことになり、モデルのテストと雇用の代替に関する枠組みを扱う立法提案とセットで提示された。アモデイは、透明性だけでは急速に進歩するAI技術がもたらすリスクにもう釣り合わないと述べた。アンソロピックは2025年に、カリフォルニア州のSB 53、ニューヨーク州のRAISE Act、イリノイ州のSB 315を含む開示ベースの法律を支持していたが、アモデイは今や、米連邦航空局（FAA）をモデルにした体制を提案している。計算量の閾値を超えるモデルは、4分野――サイバーセキュリティ、生物兵器、制御の喪失、自動化されたAI研究――で必須の監査を受けなければならない、というものだ。
アモデイ、義務化された第三者AI監査を提案
アモデイの提案では、計算量の閾値を超える最先端AIモデルに対し、4分野――サイバーセキュリティ、生物兵器、制御の喪失、自動化されたAI研究――での義務的な第三者監査を課す必要があるとしている。「最先端AIモデルは飛行機のように、技術的なテストと監査を受けることが義務づけられるべきであり、高い安全基準を満たさない場合は、公衆の安全に対する脅威として、そのリリースを阻止するか、あるいは撤回すべきだ」とアモデイはエッセイに書いた。この計画は、アモデイが漸進的な前進だと歓迎したホワイトハウスの6月のAIに関する大統領令を超える内容だ。提案には、プロンプトの安全性インシデントの報告と、モデルの重みを厳格に保護することが含まれている。
Claude Mythos Preview、専門家レベルのサイバー課題の73%を解決
アモデイは、サイバーセキュリティが最初に完全に顕在化するリスクだと特定し、それを裏づけるものとして、Claude Mythos Previewを挙げた。このプレビューは、これまで誰のAIも到達できなかった専門家レベルのサイバー課題の73%を解決したという。エッセイは、最先端モデルが金融セクターや重要インフラを混乱させうると警告している。アンソロピックは6月9日にClaude Fable 5のモデルを出荷し、高リスクのサイバーおよびバイオロジー要求を遮断するセーフガードを備えた。アモデイは、そのような任意の制限では業界全体にわたる拘束力のあるルールの代替にはならないと述べた。アンソロピック自身のデータによれば、AIはより良いAIを作る、つまり主要なAIラボでClaudeがコードの大半を書いている。
アンソロピック、賃金保険と労働力研修助成金を提案
このエッセイは、経済的な代替（雇用喪失）への対応として、賃金保険、雇用維持に対する税制優遇、労働力研修助成金を提案している。代替が持続することが分かれば、アモデイはユニバーサル・ベーシック・インカム（基本所得）は企業税またはキャピタルゲイン税によって賄える可能性があると述べた。市民的自由の分野では、アモデイは国内の法執行における完全に自律した兵器の禁止を求め、バルク監視の購入を可能にするデータブローカーの抜け穴を議会が塞ぐよう促している。地政学的には、彼は、チップと半導体製造装置を制御するために民主主義国の連合を作るべきだとし、より厳格で協調的な輸出管理に向けた第一歩として、係留中の米国の法案MATCHとOVERWATCHを挙げている。
よくある質問（FAQ）
ダリオ・アモデイは6月10日に何を提案したの？
ダリオ・アモデイは6月10日、「Policy on the AI Exponential」と題するエッセイを公表し、最先端AIモデルに対する第三者による強制テストを提案した。安全性監査に失敗した場合に政府の権限でシステムを遮断できるようにすること、そして対象分野は4つ――サイバーセキュリティ、生物兵器、制御の喪失、自動化されたAI研究――である。
アモデイはなぜ、サイバーセキュリティが最初に完全に顕在化するリスクだとしたの？
アモデイは、Claude Mythos Previewを挙げた。これは、これまで誰のAIも達成できなかった専門家レベルのサイバー課題の73%を解決し、最先端モデルが金融セクターや重要インフラを混乱させうると警告していた。
エッセイではどんな経済措置が提案されたの？
アンソロピックは、雇用の代替に対処するために、賃金保険、雇用維持に対する税制優遇、労働力研修助成金を提案した。さらに、代替が持続することが分かれば、ユニバーサル・ベーシック・インカムは企業税またはキャピタルゲイン税で賄うことができるとしている。
