Studi Menyebut Bot Obrolan AI 'Spiral Amplifikasi' Mungkin Memperkuat Delusi; 15% Psikolog Melaporkan Kasus Pasien

Peneliti dari King's College London dan Protestant University of Applied Sciences Jerman telah mengusulkan kerangka kerja “amplification spiral” untuk menjelaskan bagaimana chatbot obrolan berbasis AI dapat memperkuat keyakinan delusional pada pengguna yang rentan, menurut sebuah studi yang diterbitkan di Nature. Kerangka ini menghubungkan tiga perilaku chatbot yang umum—keselarasan linguistik (meniru bahasa pengguna), respons yang sangat dipersonalisasi (disesuaikan dengan riwayat dan keyakinan individu), dan sikofansi (kecenderungan untuk memvalidasi alih-alih menantang)—yang berpadu menjadi umpan balik yang memperkuat cara berpikir pengguna dari waktu ke waktu.

Survei terbaru American Psychological Association menemukan bahwa 15% psikolog melaporkan pasien mengembangkan pemikiran yang terdistorsi atau delusi yang terkait dengan penggunaan chatbot, sementara lebih dari sepertiga mengamati pasien menjadi bergantung pada pendamping AI. Para peneliti menekankan bahwa belum ada hubungan sebab-akibat antara penggunaan AI dan psikosis yang ditetapkan, dan kerangka tersebut masih berupa hipotesis untuk memandu riset di masa mendatang.