CEO Anthropic Dario Amodei mempublikasikan esai kebijakan pada 10 Juni yang menyerukan pengujian pihak ketiga yang wajib untuk model AI frontier, dengan kewenangan pemerintah untuk memblokir sistem yang gagal dalam audit keselamatan. Esai tersebut, berjudul 'Policy on the AI Exponential,' tiba satu hari setelah Anthropic merilis Claude Fable 5 dan dipasangkan dengan proposal legislatif tentang pengujian model serta kerangka disrupsi pekerjaan. Amodei menyatakan bahwa transparansi saja tidak lagi sepadan dengan risiko yang ditimbulkan oleh teknologi AI yang berkembang pesat. Anthropic menghabiskan 2025 untuk mendukung undang-undang berbasis pengungkapan, termasuk SB 53 di California, RAISE Act di New York, dan SB 315 di Illinois, tetapi Amodei kini mengusulkan rezim yang dimodelkan pada Federal Aviation Administration (FAA), yang mengharuskan model di atas ambang komputasi menjalani audit wajib di empat bidang: keamanan siber, senjata biologis, hilangnya kendali, dan riset AI otomatis.
Amodei Mengusulkan Audit AI Pihak Ketiga yang Wajib
Usulan Amodei mensyaratkan model AI frontier di atas ambang komputasi menghadapi audit pihak ketiga yang wajib di empat bidang: keamanan siber, senjata biologis, hilangnya kendali, dan riset AI otomatis. "Model AI frontier, seperti pesawat terbang, harus diwajibkan melalui pengujian teknis dan audit, dan rilisnya harus diblokir atau dibatalkan sebagai ancaman bagi keselamatan publik jika tidak memenuhi standar keselamatan yang tinggi," tulis Amodei dalam esai tersebut. Rencana ini melampaui Executive Order AI Gedung Putih pada Juni, yang dipuji Amodei sebagai kemajuan bertahap. Proposal tersebut mencakup pelaporan insiden keselamatan prompt dan perlindungan ketat terhadap bobot model.
Pratinjau Claude Mythos Menyelesaikan 73% Tantangan Keamanan Siber Pakar
Amodei mengidentifikasi keamanan siber sebagai risiko pertama yang sepenuhnya menjadi nyata, mengarah pada Claude Mythos Preview, yang menyelesaikan 73% tantangan keamanan siber tingkat pakar yang belum pernah dilewati AI mana pun sebelumnya. Esai ini memperingatkan bahwa model frontier dapat mengganggu sektor keuangan dan infrastruktur kritis. Anthropic meluncurkan model Claude Fable 5 pada 9 Juni dengan pengaman yang memblokir permintaan siber dan biologi berisiko tinggi. Amodei menyatakan bahwa batasan sukarela seperti itu tidak bisa menggantikan aturan yang mengikat di seluruh industri. Data internal Anthropic menunjukkan bahwa AI membangun AI yang lebih baik, dengan Claude menulis sebagian besar kode di lab-lab AI utama.
Anthropic Mengusulkan Asuransi Upah dan Hibah Pelatihan Tenaga Kerja
Esai tersebut mengusulkan asuransi upah, insentif pajak retensi, dan hibah pelatihan tenaga kerja untuk mengatasi perpindahan ekonomi. Jika perpindahan terbukti bertahan lama, kata Amodei, universal basic income bisa dibiayai melalui pajak perusahaan atau pajak atas capital gains. Untuk hak kebebasan sipil, Amodei menyerukan larangan senjata sepenuhnya otonom dalam penegakan hukum domestik dan mendesak Kongres menutup celah perantara data yang memungkinkan pembelian pengawasan skala besar. Secara geopolitik, ia menyerukan koalisi negara demokrasi untuk mengendalikan chip dan peralatan manufaktur semikonduktor, dengan menyebut RUU AS yang tertunda MATCH dan OVERWATCH sebagai langkah awal menuju pengendalian ekspor yang lebih ketat dan terkoordinasi.
FAQ
Apa yang diusulkan Dario Amodei pada 10 Juni?
Dario Amodei mempublikasikan esai berjudul 'Policy on the AI Exponential' pada 10 Juni, yang mengusulkan pengujian pihak ketiga yang wajib untuk model AI frontier, dengan kewenangan pemerintah untuk memblokir sistem yang gagal dalam audit keselamatan di empat bidang: keamanan siber, senjata biologis, hilangnya kendali, dan riset AI otomatis.
Mengapa Amodei menyebut keamanan siber sebagai risiko pertama yang sepenuhnya menjadi nyata?
Amodei menunjuk pada Claude Mythos Preview, yang menyelesaikan 73% tantangan keamanan siber tingkat pakar yang belum pernah dilewati AI mana pun sebelumnya, sambil memperingatkan bahwa model frontier dapat mengganggu sektor keuangan dan infrastruktur kritis.
Langkah ekonomi apa yang diusulkan Anthropic dalam esai?
Anthropic mengusulkan asuransi upah, insentif pajak retensi, dan hibah pelatihan tenaga kerja untuk mengatasi perpindahan pekerjaan, dengan universal basic income dibiayai melalui pajak perusahaan atau pajak atas capital gains jika perpindahan terbukti bertahan lama.
