米国政府は金曜日、潜在的なジェイルブレイクの脆弱性に関する国家安全保障上の懸念を理由に、Anthropicに対し、自社の最も高度なAIモデル2つであるClaude Fable 5とClaude Mythos 5へのアクセスを、直ちにすべての外国人に対して停止するよう緊急の輸出管理指令を発出した。指令は、米国内でも国外でもアクセスを禁じており、Anthropicは顧客基盤全体に対してモデルを無効化することを強いられ、遵守を確実にすることになった。政府は、公に利用可能なFable 5モデルを回避する方法を特定したと考えているが、Anthropicは重大性を否定し、その脆弱性は単純で、GPT-5.5のような他の公に利用可能なモデルを使えば既に同様に再現できると主張した。命令は、AIの安全性や監視に関する合意をめぐり、Anthropicと政府の間で続く緊張の中で出された。
政府指令によりFable 5とMythos 5へのアクセスが停止
この指令は、米国内でも国外でも、いかなる外国人もモデルにアクセスすることを禁じている。指令の広範な適用範囲により、Anthropicは遵守を確実にするため、顧客基盤全体でモデルを無効化せざるを得なくなった。文書は国家安全保障上の懸念の具体的な詳細を示さなかったが、政府は、公開されているFable 5モデルを回避、つまり「ジェイルブレイク」する方法を把握したようだと考えている。ガードレールがより少なく、特にサイバーセキュリティのエクスプロイトを見つけるのに強いMythos 5は、限られたパートナーにのみ提供されていた。両モデルは、ほんの数日前に公開されたばかりだった。
Anthropicはジェイルブレイクの深刻度に異議
Anthropicは発見の深刻度に異議を唱えた。同社は、この手法のデモを確認し、特定された脆弱性は比較的単純に見えること、そしてバイパスを必要とせずとも他の公に利用可能なモデルでも同様にそれらを発見できることを結論づけたと述べた。同社によれば、政府はいまのところ、潜在的な限定的で非ユニバーサルなジェイルブレイクに関する口頭の根拠しか提示していない。つまり、モデルに特定のコードベースを読み取り、ソフトウェア上の欠陥を修正するよう求めることで構成されるものだという。さらに同社は、表示されている能力の水準は、OpenAIのGPT-5.5を含む競合するモデルから、すでに広く入手可能であることを検証したと付け加えた。
指令に従いながらも、Anthropicは、この行動が危険な前例を作るものだと考えているという。「もしこの基準が業界全体に適用されるなら」と同社は書いた。「それによって、実質的に、フロンティア・モデルの提供業者すべてによる新しいモデルのデプロイが止まると考えます。」他のすべてのAnthropicモデルへのアクセスには影響は及ばない。同社は、可能な限り早くアクセスを復旧するために取り組んでいると述べた。
David SacksがSNSでAnthropicを批判
土曜日、President's Council of Advisers on Science and Technologyの共同議長であるDavid SacksはXに、「Fableをテストしていた、Anthropicと米国政府の両方の強い信頼を得たパートナーが、そのガードレールのジェイルブレイクを持ち込んだ。管理者は[Anthropic CEO Dario Amodei]に、ジェイルブレイクを直すか、モデルのデプロイを解除するよう求めた。Darioは拒否した」と投稿した。
Sacksはさらに、政府からの要請に対するAnthropicの反応は、AIの安全性と規制の必要性に関する同社自身の公開主張に反していると付け加えた。この見解は、今週のブログ記事でもAmodeiが再度共有した。「Sacksによれば、Anthropicは安全よりも消費者向けモデルの提供を優先した。これに反応して、管理者は輸出管理を発動した。管理者は、苦々しくもそうした。Anthropicが、合理的な安全要請（つまりジェイルブレイク問題の修正）に協力したがらないことには、とても驚いている。Anthropicの反応は、安全なAI研究コミュニティだという彼らのブランディングや理念と、非常に食い違っている。」
Sacksは、当局はAnthropicが問題を修正し、Fable 5が再び一般公開されることを望んでいるとも付け加えた。「当局はAnthropicの技術的能力を重視しており、この問題は深刻ではあるものの、容易に解決できるはずだと感じている」と彼は書いた。「ボールはAnthropic側にある。」
監視に関する協定をめぐる先行する対立
本年初め、Anthropicと米国政府は、AI企業が、米国民に対する大規模な国内監視と、完全に自律した致死兵器システムを可能にする拡大協定への署名を拒否したことで、対立していた。ドナルド・トランプ大統領は協議が決裂した後、同社を非難し、国防総省はAnthropicを「サプライチェーン上のリスク」と位置づけた。これは同社が裁判で争っている指定である。それ以来、政府がClaude Mythosやその他のモデルの活用を求めたことで、両者の対立がいったん落ち着いてきたという報道も出ている。
FAQ
米国政府は金曜日にAnthropicへ何を命じたのですか？
米国政府は金曜日、緊急の輸出管理指令を発出し、Anthropicに対して、自社の最も高度なAIモデル2つであるClaude Fable 5とClaude Mythos 5へのアクセスを、すべての外国人に対して直ちに停止するよう命じました。これは、潜在的なジェイルブレイクの脆弱性に関する国家安全保障上の懸念を理由としています。
なぜAnthropicは政府の指令に異議を唱えたのですか？
Anthropicは、指摘された脆弱性は比較的単純に見え、バイパスを必要とせずとも、OpenAIのGPT-5.5を含む他の公に利用可能なモデルでもそれらを発見できると主張して、発見の深刻度に異議を唱えました。同社によれば、政府は潜在的な限定的で非ユニバーサルなジェイルブレイクに関する口頭の根拠しか提示していませんでした。
指令へのAnthropicの対応について、David Sacksは何と言いましたか？
土曜日、David SacksはXで、Anthropic CEOのDario Amodeiが、当局から要請された際にジェイルブレイクを修正するか、モデルのデプロイを解除することを拒否したと書きました。Sacksは、Anthropicの反応が、AIの安全性と規制に関する同社の公開主張に反していたと主張し、「Anthropicは安全よりも消費者向けモデルの提供を継続することを優先した」と述べました。
