Anthropic Memberitahu Pengadilan Model AI Pentagon yang Dikerahkan Tidak Memiliki "Kill Switch"

Pengumuman Gate News, 23 April — Anthropic mengajukan berkas ke Pengadilan Banding AS untuk Sirkuit Distrik Columbia yang menyatakan bahwa setelah model AI-nya dikerahkan di lingkungan Pentagon, perusahaan tersebut tidak memiliki visibilitas maupun sarana teknis untuk mengendalikan atau mematikan model-model tersebut, dan tidak ada “kill switch”.

Berkas tersebut merupakan perkembangan terbaru dalam sengketa Anthropic dengan Pentagon terkait penetapan sebagai “risiko rantai pasok”. Departemen Pertahanan memberi label Anthropic sebagai risiko rantai pasok pada bulan Maret, dengan alasan dugaan gangguan yang tidak semestinya dari perusahaan terhadap cara teknologi mereka digunakan dalam operasi militer yang sensitif. Inti perselisihannya berpusat pada kebijakan penggunaan Anthropic, yang melarang Claude digunakan untuk senjata otonom atau pengawasan massal—pembatasan yang digambarkan Pentagon sebagai “pengaburan.”

Perkara hukum ini menghasilkan keputusan yang terpecah: pengadilan di Washington menolak permintaan Anthropic untuk menangguhkan label risiko rantai pasok, sementara pengadilan di California menyetujuinya. Dalam praktiknya, Anthropic tidak dapat ikut tender kontrak Pentagon baru, tetapi masih dapat terus melayani instansi pemerintah lainnya. Sementara itu, pemerintahan Trump mendorong penerapan model baru Anthropic, Mythos, di seluruh lembaga federal, dengan para pejabat tengah menelusuri cara menggunakannya untuk mempertahankan diri dari serangan siber—sebuah sikap yang bertentangan dengan posisi Pentagon bahwa Anthropic menimbulkan risiko keamanan nasional. Sidang berikutnya dijadwalkan pada 19 Mei.