Anthropic 執行長呼籲進行類似 FAA 的 AI 測試,同時推出 Claude Mythos 5

週三,Anthropic 執行長 Dario Amodei 發布了一篇政策論文,主張建立具有約束力的安全要求,並針對前沿 AI 模型實施強制第三方測試,做法類似於針對飛機的 FAA 法規。該提案規定需在四個風險類別進行測試:資安、生物武器、失去 AI 控制以及自動化研發,並賦予政府權限以阻止不安全的部署。

該政策公告同時伴隨 Anthropic 推出 Claude Mythos 5,這是一款針對資安組織與政府合作夥伴的受限型前沿模型。該公司也同步發布 Claude Fable 5,面向公眾的版本會將敏感請求導向能力較弱的模型,作為防止遭到濫用的保障措施。

免責聲明:本頁面資訊可能來自第三方來源,僅供參考,不代表 Gate 的立場或觀點,亦不構成任何財務、投資或法律建議。虛擬資產交易具有高風險,請勿僅依賴本頁資訊作出決策。詳情請參閱 免責聲明
回覆
0/400
暫無回覆