Menurut salinan surat yang diperoleh Bloomberg pada 24 Juni, Anthropic mengirim surat kepada beberapa senator AS dan pejabat Gedung Putih, menuduh pihak terkait laboratorium Qwen di bawah Alibaba telah menggunakan hampir 25 ribu akun palsu untuk meluncurkan total 28,8 juta percakapan terhadap Claude antara April dan Juni, secara sistematis mengekstrak data pelatihan dari kemampuan rekayasa perangkat lunak dan inti Claude, dan mengklasifikasikannya sebagai "serangan distilasi adversarial."
Anthropic Tuduh Qwen 28,8 Juta Percakapan Targetkan Rekayasa Perangkat Lunak secara Presisi
Pola serangan: sejumlah besar akun palsu mengajukan pertanyaan ke Claude, mengumpulkan jawaban, lalu menggunakannya untuk melatih model seri Qwen. Dalam surat tersebut, Anthropic menjelaskan bahwa target serangan bukanlah pertanyaan acak, melainkan secara presisi menargetkan dua kemampuan paling kompetitif Claude: rekayasa perangkat lunak, dan penalaran agen (kemampuan AI untuk merencanakan beberapa langkah secara mandiri dan menjalankan tugas kompleks seperti seorang agen).
Anthropic menyatakan bahwa metode ini identik dengan DeepSeek dan MiniMax yang disebut dalam artikel blognya, termasuk dalam serangan distilasi yang "sistematis, berskala besar, dan terindustrialisasi." Surat tersebut secara jelas mengkategorikan: serangan semacam ini "mencuri kemampuan AI dari laboratorium perbatasan AS secara ilegal, sistematis, dan dalam skala industri, lalu mengemasnya kembali sebagai produk sendiri tanpa harus menanggung biaya pelatihan dan penelitian."
Anthropic, OpenAI, dan Google Bentuk Berbagi Intelijen Tiga Pihak, Minta Pemerintah Perjelas Pedoman Antimonopoli
Anthropic, OpenAI, dan Google telah membentuk aliansi tiga pihak untuk berbagi intelijen tentang pelanggaran distilasi yang masing-masing deteksi. Kekhawatiran industri AS telah berubah dari insiden individu menjadi postur pertahanan kolektif. Dalam surat tersebut, Anthropic juga meminta pemerintah AS membantu memperjelas pedoman antimonopoli terkait, sehingga perusahaan-perusahaan besar AS dapat lebih bebas berbagi intelijen serangan distilasi.
Dalam surat tersebut, Anthropic mengakui bahwa perusahaannya juga telah melakukan distilasi pada model awal milik sendiri saat melatih Claude. Batas antara "mendistilasi diri sendiri" dan "mendistilasi orang lain" masih belum jelas secara hukum hingga saat ini; distilasi itu sendiri banyak digunakan di industri, dan ilegalitasnya tergantung pada skala dan niat, bukan pada teknik itu sendiri.
Senat Rencanakan Amandemen, DPR Sudah Dorong RUU Bipartisan
Kedua kamar Kongres AS telah memiliki anggota yang mengambil tindakan. Di Senat, anggota Partai Republik Bill Hagerty dan anggota Partai Demokrat Andy Kim berencana mengajukan amandemen yang meminta agar perusahaan China yang secara ilegal mendistilasi keluaran AI AS dimasukkan dalam daftar hitam atau dikenai sanksi; di DPR, Bill Huizenga dan Sydney Kamlager-Dove telah mendorong RUU bipartisan serupa. Proposal di kedua kamar direncanakan untuk dimasukkan ke dalam Undang-Undang Otorisasi Pertahanan Nasional (NDAA) tahunan.
Pertanyaan Umum
Apa itu "serangan distilasi adversarial", dan apa perbedaannya dengan distilasi model biasa?
Distilasi model adalah teknik yang memungkinkan model kecil belajar dari model besar, dan banyak digunakan di komunitas riset AI. Masalahnya terletak pada skala dan niat: tindakan yang dituduhkan Anthropic adalah menggunakan hampir 25 ribu akun palsu untuk melakukan 28,8 juta pertanyaan terindustrialisasi dalam tiga bulan, secara presisi menargetkan kemampuan inti kompetitif, yang sudah melampaui batas yang diizinkan oleh ketentuan layanan laboratorium AI besar.
Apa tuntutan spesifik Anthropic dalam surat kepada Kongres AS?
Dalam surat tersebut, Anthropic meminta pemerintah AS mengambil dua tindakan: menjatuhkan sanksi atau daftar hitam terhadap perusahaan China yang secara ilegal mendistilasi keluaran AI AS; serta membantu memperjelas pedoman antimonopoli, sehingga perusahaan AI besar AS dapat lebih bebas berbagi intelijen serangan distilasi untuk membangun mekanisme pertahanan kolektif yang lebih efektif.
Apakah status hukum serangan distilasi saat ini sudah jelas di AS?
Saat ini masih belum jelas di level hukum. Distilasi sendiri tidak sepenuhnya ilegal; industri pada umumnya mengizinkan penggunaannya dalam skala kecil dan untuk pengembangan non-kompetitif. Anthropic juga mengakui dalam surat bahwa mereka telah mendistilasi model awal milik sendiri, dan telah secara eksplisit meminta pemerintah AS membantu memperjelas batas hukum terkait.
