水曜日に、AnthropicのCEOダリオ・アモデイが、最前線のAIモデルに対する拘束力のある安全要件と義務的な第三者テストを求める政策エッセイを発表した。提案は、航空機のFAA規制をモデルにしている。この提案では、リスクの4つのカテゴリ――サイバーセキュリティ、生物兵器、AIの制御喪失、そして自動化されたR&D――にわたるテストを義務づけており、政府が危険な展開を差し止める権限を持つとされている。
この政策発表は、AnthropicがClaude Mythos 5をローンチしたことと時を同じくしている。Claude Mythos 5は、サイバーセキュリティ組織と政府パートナー向けの制限付きの最前線モデルだ。同社は同時にClaude Fable 5も公開した。これは一般向けのバージョンで、悪用を防ぐために機微な依頼を能力の低いモデルへルーティングする。
