Anthropicの木曜付けブログ記事によると、AI研究企業は6月5日にフロンティアAI開発の世界的な一時停止を求め、AIシステムにおける再帰的な自己改善によるリスクを理由に挙げた。Anthropicは、同社の最先端モデルが急速な性能向上を達成していることを示す内部データを明らかにし、AIシステムが人間の介入なしに自律的な最適化をすぐに実現する可能性があり、それが重大な社会的リスクにつながると警告した。
同社は、AI研究開発の速度を落とすための世界的な合意を設け、競合他社が順守することを確認する検証メカニズムを作ることを提案した。Anthropicは「世界が、社会と研究が技術の進歩に追いつけるように、フロンティアAI開発を遅らせる、あるいは一時的に止めることを選べるなら、それは有益だ」と述べた。
