Para peneliti MIT Media Lab menemukan bahwa orang yang menggunakan AI untuk menilai akurasi berita dapat menjadi kurang efektif dalam mendeteksi disinformasi secara mandiri, menurut studi baru yang melacak 67 peserta selama empat minggu. Sementara bantuan AI meningkatkan akurasi deteksi disinformasi sebesar 21%, performa peserta pada penilaian baru tanpa AI turun 15,3 poin persentase. Studi ini muncul saat chatbot AI seperti ChatGPT, Claude, dan Grok semakin dipakai untuk memverifikasi informasi online, memunculkan pertanyaan apakah alat-alat ini membantu pengguna mengembangkan kemampuan berpikir kritis atau justru menciptakan ketergantungan pada sistem AI.
Peneliti MIT Melacak 67 Peserta Menggunakan Sistem Deteksi Berbasis AI
Para peneliti membangun sistem yang menggabungkan GPT-4o milik OpenAI dengan Google Search untuk membantu peserta mengevaluasi berita. Peserta pertama-tama menilai apakah sebuah judul dan gambar itu nyata atau palsu secara independen, lalu mendiskusikan materi tersebut dengan GPT-4o sebelum membuat penilaian akhir. Studi selama empat minggu menghasilkan 7.203 percakapan AI dan 4.536 penilaian tentang keaslian berita.
Peneliti kemudian menguji peserta pada konten baru yang belum pernah dilihat tanpa bantuan AI untuk menentukan apakah kemampuan deteksi disinformasi mereka membaik atau menurun. Tim menggunakan Claude 3.5 Sonnet milik Anthropic untuk menganalisis ribuan percakapan antara pengguna dan AI.
Akurasi Meningkat 21% Dengan AI, Menurun 15,3% Tanpa Bantuan
Studi tersebut menemukan bahwa bantuan AI meningkatkan akurasi deteksi disinformasi sebesar 21% selama sesi dengan bantuan. Namun, performa peserta pada evaluasi baru tanpa AI turun 15,3 poin persentase. Penurunan terutama disebabkan berkurangnya kemampuan mengidentifikasi berita palsu, sementara akurasi pada berita nyata tetap sama.
Karena studi memakai GPT-4o dan Claude 3.5 Sonnet yang lebih lama, belum jelas apakah model AI yang lebih baru seperti GPT-5.5 atau Claude Opus 4.8 dengan kapabilitas penalaran yang lebih kuat akan menghasilkan hasil yang serupa.
Studi Mengungkap Risiko Ketergantungan, Bukan Pengembangan Keterampilan
Para peneliti menyarankan bahwa meski AI dapat meningkatkan performa saat itu juga, AI dapat mendorong ketergantungan pada teknologi. "Analisis longitudinal kami menunjukkan bahwa pendekatan saat ini memprioritaskan koreksi keyakinan dibanding pengembangan keterampilan, menciptakan ketergantungan ketimbang kemampuan pembedaan yang tahan lama," bunyi studi tersebut. "Seiring AI menjadi semakin canggih, memastikan alat-alat ini membangun kemampuan berpikir kritis, bukan ketergantungan kognitif, menjadi penting untuk mempertahankan ketahanan publik terhadap disinformasi."
Menurut peneliti MIT, studi ini muncul saat chatbot AI semakin digunakan untuk memverifikasi informasi secara online. "Asisten AI seperti ChatGPT, Claude, dan Grok semakin digunakan untuk menilai kredibilitas informasi online, mulai dari menilai keaslian judul berita dan gambar viral hingga menjawab apakah klaim medis atau rumor politik itu benar," tulis peneliti. "Meskipun riset terbaru menunjukkan sistem seperti itu dapat mengurangi keyakinan terhadap klaim palsu tertentu, masih belum jelas apakah percakapan ini mengajarkan manusia untuk mendeteksi disinformasi atau sekadar menggeser keyakinan tentang informasi palsu dengan bantuan AI."
Rekaman Perang Buatan AI Menyebar di Media Sosial
Studi ini hadir saat AI generatif memudahkan pembuatan berita palsu yang meyakinkan, dengan gambar dan video yang realistis yang dapat menyebar cepat di media sosial dan memanfaatkan kecenderungan orang untuk percaya pada apa yang mereka lihat.
Setelah serangan rudal Iran terhadap Israel pada Juni 2025, video yang diduga menampilkan kehancuran di Tel Aviv dan di Bandara Ben Gurion menyebar luas di media sosial, meraih jutaan penayangan sebelum akhirnya teridentifikasi sebagai buatan AI. Kekhawatiran atas penyebaran rekaman perang palsu terus berlanjut di berbagai platform media sosial.
X Mengumumkan Kebijakan Penangguhan untuk Video Konflik AI yang Tidak Diungkap
X mengumumkan pada bulan Maret bahwa mereka akan menangguhkan kreator dari program pembagian pendapatannya karena memposting video konflik buatan AI tanpa pengungkapan. "Di masa perang, sangat penting agar orang memiliki akses ke informasi autentik di lapangan," tulis Nikita Bier, Kepala Produk X. "Dengan teknologi AI saat ini, membuat konten yang dapat menyesatkan orang itu sangat mudah."
FAQ
Apa yang ditemukan peneliti MIT tentang fact-checking berbantuan AI?
Peneliti MIT Media Lab menemukan bahwa meski bantuan AI meningkatkan akurasi deteksi disinformasi sebesar 21% selama sesi dengan bantuan, performa peserta pada evaluasi baru tanpa AI turun 15,3 poin persentase. Studi empat minggu melacak 67 peserta melalui 7.203 percakapan AI dan 4.536 penilaian keaslian berita.
Bagaimana studi MIT menguji kemampuan peserta dalam mendeteksi disinformasi?
Peneliti membangun sistem yang menggabungkan GPT-4o milik OpenAI dengan Google Search. Peserta pertama-tama menilai apakah sebuah judul dan gambar itu nyata atau palsu secara independen, lalu mendiskusikan materi tersebut dengan GPT-4o sebelum membuat penilaian akhir. Peneliti kemudian menguji mereka pada konten baru yang belum pernah dilihat tanpa bantuan AI untuk mengukur perkembangan keterampilan.
Mengapa X mengumumkan kebijakan penangguhan untuk video perang buatan AI?
X mengumumkan pada bulan Maret bahwa mereka akan menangguhkan kreator dari program pembagian pendapatannya karena memposting video konflik buatan AI tanpa pengungkapan. Kebijakan ini muncul setelah penyebaran rekaman palsu setelah serangan rudal Iran terhadap Israel pada Juni 2025, saat video buatan AI yang mengklaim menunjukkan kehancuran di Tel Aviv meraih jutaan penayangan sebelum teridentifikasi sebagai palsu.
