CEO Anthropic Serukan Pengujian AI Ala FAA Saat Meluncurkan Claude Mythos 5

Pada hari Rabu, CEO Anthropic Dario Amodei merilis esai kebijakan yang menyerukan persyaratan keselamatan yang mengikat dan pengujian pihak ketiga yang wajib untuk model AI tingkat terdepan, dengan model regulasi FAA untuk pesawat. Proposal tersebut mewajibkan pengujian di empat kategori risiko: keamanan siber, senjata biologis, hilangnya kendali atas AI, dan R&D otomatis, dengan otoritas pemerintah untuk memblokir penerapan yang tidak aman.

Pengumuman kebijakan tersebut bertepatan dengan peluncuran Claude Mythos 5 oleh Anthropic, sebuah model tingkat terdepan yang dibatasi untuk organisasi keamanan siber dan mitra pemerintah. Perusahaan tersebut sekaligus merilis Claude Fable 5, versi yang dapat diakses publik yang merutekan permintaan sensitif ke model yang kurang mampu sebagai pengaman terhadap penyalahgunaan.