Claude AI membuat kutipan pengadilan palsu, pengacara meminta maaf dan mengakui telah melakukan kesalahan

Dalam proses hukum di pengadilan federal yang terkait dengan Pemecatan Federal besar-besaran oleh pemerintahan Trump, pengacara Jason Grieves pada 16 Mei mengajukan pernyataan yang mengakui bahwa dokumen mosi yang diajukan ke pengadilan memuat kutipan palsu. Kutipan-kutipan tersebut muncul setelah ia menggunakan platform AI perusahaan Anthropic Claude Console untuk membantu menyusun mosi tersebut.

Kronologi kejadian yang telah dikonfirmasi: Proses lengkap pernyataan Grieves

6 Mei pagi (telah dikonfirmasi): Karena waktu yang ketat, Grieves menggunakan Claude Console untuk membuat draf mosi, lalu mengirimkan draf tersebut kepada seorang rekan/penasihat hukum asisten sambil memberikan instruksi lisan yang jelas: “Draf ini dibuat oleh kecerdasan buatan; mohon periksa kutipan dengan saksama.”

6 Mei sore (telah dikonfirmasi): Asisten memberi tahu Grieves bahwa ia telah meninjau dan memverifikasi setiap kutipan. Asisten menemukan dua kutipan kasus yang tidak tepat, serta menemukan satu kasus pengganti; namun, kutipan palsu tetap muncul dalam dokumen yang akhirnya diajukan.

Dalam pernyataannya, Grieves mengonfirmasi dua poin tanggung jawab: “Memastikan bahwa kutipan benar dan sepenuhnya akurat adalah tanggung jawab saya sepenuhnya, dan saya memikul tanggung jawab penuh untuk itu”; “Kasus-kasus yang dikutip mungkin secara keseluruhan mendukung posisi kami, tetapi membolehkan kutipan palsu masuk adalah kesalahan yang tidak dapat dimaafkan.”

Kedudukan Claude Console yang telah dikonfirmasi

Claude Console (sebelumnya Anthropic Developer Console), diluncurkan pada Maret 2023, adalah platform AI perusahaan milik Anthropic untuk berinteraksi dengan model AI Claude bagi perusahaan dan profesional. Kegunaannya mencakup penyusunan dokumen, ringkasan, pengkodean, dan riset. Dalam pernyataannya, Grieves menggambarkannya sebagai “platform AI tingkat perusahaan dengan isolasi data,” berbeda dari Claude.ai yang ditujukan untuk konsumen.

Latar belakang preseden konfirmasi: halusinasi AI masuk ke pengadilan

Pada April 2026, pengacara dari firma Sullivan & Cromwell telah menerima sanksi resmi karena mengajukan kutipan hukum palsu yang dihasilkan AI ke pengadilan. Kasus Grieves yang melibatkan Pemecatan Federal besar-besaran oleh pemerintah Trump mencakup pemangkasan personel di FEMA serta reformasi perlindungan pegawai negeri yang diusulkan; hasil penanganan spesifik atas perkara berikutnya oleh pengadilan belum diumumkan.

Tanya jawab

Bagaimana Grieves menjelaskan pembagian tanggung jawab atas munculnya kutipan palsu?

Berdasarkan pernyataan Grieves, ia secara tegas menjelaskan kepada rekan/penasihat hukum asisten secara lisan bahwa draf tersebut dihasilkan oleh AI dan memintanya untuk melakukan verifikasi. Asisten mengonfirmasi telah meninjau, namun kutipan palsu tetap lolos. Grieves menegaskan bahwa ia sendiri sebagai rekan mitra/penanggung jawab dan penandatangan dokumen gugatan memikul seluruh tanggung jawab, dan tidak mengalihkan tanggung jawab kepada asisten atau alat AI itu sendiri.

Apa perbedaan Claude Console dengan penggunaan Claude AI pada umumnya?

Claude Console (Anthropic Developer Console) adalah platform AI versi perusahaan yang menggunakan desain isolasi data, ditujukan untuk perusahaan dan pengguna profesional; berbeda dari Claude.ai versi konsumen dalam hal pemrosesan data dan kerangka kepatuhan. Grieves secara khusus menekankan bahwa yang digunakan adalah “platform AI tingkat perusahaan dengan isolasi data,” namun ini tidak dapat mencegah terjadinya halusinasi AI (pembuatan kutipan yang salah).

Bagaimana pengadilan menangani situasi ketika kutipan palsu dihasilkan oleh AI?

Pada April 2026, dalam kasus Sullivan & Cromwell, para pengacara telah dikenai sanksi resmi karena masalah serupa. Dalam kasus Grieves, para pengacara telah meminta maaf secara resmi kepada pengadilan; hasil penanganan spesifik oleh pengadilan atas tindak lanjutnya saat ini belum diumumkan.