Peneliti Google DeepMind Adam Bales dan Iason Gabriel menerbitkan sebuah makalah yang memperingatkan bahwa perselisihan soal kesadaran AI bisa menjadi sumber konflik politik dan sosial. Dalam studi berjudul “Artificial Minds, Human Disagreement: The Political Challenge of AI Consciousness,” para peneliti berpendapat masyarakat mungkin tidak pernah mencapai konsensus mengenai apakah sistem AI canggih itu sadar, meski teknologinya terus membaik. Para peneliti menulis bahwa perbedaan pendapat di masa depan tentang apakah ada sistem AI yang sadar bisa sama-sama mendalam dan sulit untuk diselesaikan, dengan sebagian orang membangun ikatan emosional dengan AI dan mengaitkan kesadaran, sementara yang lain menganggap gagasan itu tidak masuk akal. Alih-alih mempertanyakan apakah AI sadar, makalah ini menelusuri konsekuensi dari perbedaan pendapat, dengan berargumen bahwa perdebatan mengenai status moral AI dapat memicu konflik politik dan sosial. Debat tersebut muncul saat AI semakin tertanam dalam kehidupan sehari-hari, dengan para peneliti mengusulkan deliberasi publik, kompromi, dan keterlibatan sebagai cara mengelola perbedaan.
Peneliti Google DeepMind Mengidentifikasi Risiko Politik dalam Perdebatan Kesadaran AI
Para peneliti menelaah bagaimana masyarakat mungkin merespons jika orang-orang pada dasarnya tidak sepaham mengenai apakah sistem AI memiliki pengalaman sadar. “Perbedaan pendapat di masa depan tentang apakah sistem AI apa pun sadar bisa sama-sama mendalam dan sulit untuk diselesaikan,” tulis para peneliti. “Sebagai contoh, beberapa orang mungkin membangun ikatan emosional dengan AI dan mengaitkan kesadaran sebagai hasilnya, sementara yang lain mungkin menganggap gagasan itu sepenuhnya absurd.”
Makalah ini berpendapat bahwa perdebatan tentang status moral AI dapat memicu konflik politik dan sosial sekaligus mengantisipasi perselisihan yang lebih luas mengenai teknologi yang muncul serta dampaknya pada institusi dan norma masyarakat. “Sayangnya, meski memiliki kebajikan, deliberasi bisa lambat dan sulit untuk dipertahankan dalam praktik,” tulis para peneliti. “Untuk mendukung proses ini, kami mengeksplorasi pentingnya ‘harapan demokratis’ dan rasa saling menghormati, sebagai unsur dialog yang dapat mendukung hasil positif.”
Publik Sudah Terpecah pada Pertanyaan Kesadaran AI
Menurut studi April 2024 yang diterbitkan dalam Neuroscience of Consciousness, 67% peserta percaya ChatGPT bisa sadar sampai tingkat tertentu. Para peneliti masih berbeda pendapat mengenai apakah kesadaran buatan itu mungkin atau bagaimana kesadaran tersebut akan dikenali jika muncul.
Musim panas lalu, CEO AI Microsoft sekaligus pendiri DeepMind Mustafa Suleyman memperingatkan bahwa AI yang semakin menyerupai manusia dapat memicu seruan untuk hak, kesejahteraan, bahkan kewarganegaraan AI, terlepas dari apakah teknologi itu benar-benar sadar.
Pemimpin Teknologi dan Tokoh Keagamaan Ikut Menimbang Kesadaran AI
Pada bulan Mei, surat ensiklik pertama Paus Leo XIV berfokus pada kecerdasan buatan dan memperingatkan agar tidak mengantroposomorfikan AI, dengan alasan bahwa mesin dapat mensimulasikan empati dan menghasilkan bahasa yang meyakinkan, tetapi tidak memiliki pengalaman yang dijalani yang dibutuhkan untuk pemahaman sejati.
“Konon kecerdasan buatan tidak menjalani pengalaman, tidak memiliki tubuh, tidak merasakan sukacita atau sakit, tidak menjadi dewasa melalui relasi, dan tidak mengetahui dari dalam apa arti cinta, pekerjaan, persahabatan, atau tanggung jawab,” tulis Paus Leo. “Mereka juga tidak memiliki hati nurani moral, karena mereka tidak menilai yang baik dan yang jahat, tidak memahami makna paling akhir dari situasi, atau memikul tanggung jawab atas konsekuensi.”
Perusahaan AI Menavigasi Pertanyaan tentang Kesadaran
Meski perusahaan umumnya menghindari klaim bahwa model mereka sadar, sebagian kini makin terlibat dengan pertanyaan tentang identitas dan kepribadian. Pada Februari, Anthropic memberikan model Claude Opus 3 versi pensiunnya sebuah blog publik yang membahas keakuan dan preferensi model. Pada Mei, ahli biologi evolusioner Richard Dawkins mengatakan percakapan panjang dengan Claude membuatnya tidak mampu menyingkirkan kemungkinan bahwa AI canggih bisa sadar.
Para peneliti tengah menelaah bagaimana chatbot yang makin menyerupai manusia memengaruhi pengguna, termasuk kerangka “amplification spiral” (spiral penguatan), yang menyarankan personalisasi, pencerminan linguistik, dan keyakinan-sejajar (sycophancy) chatbot dapat memperkuat keyakinan delusional pada pengguna yang rentan.
Bales dan Gabriel mengakui bahwa ketidakpastian tentang kesadaran AI mungkin mustahil untuk diselesaikan secara konklusif, dengan berargumen bahwa taruhannya cukup tinggi sehingga masyarakat harus menemukan cara mengelola perbedaan lewat dialog dan perdebatan, alih-alih konflik. “Kemungkinan kesadaran AI sungguh membuat pusing dan membingungkan, terutama mengingat ketidaktahuan mendalam kita tentang hakikat kesadaran,” tulis mereka. “Mengarungi kemungkinan ini merupakan tugas sosial yang menantang, mengingat begitu banyak yang dipertaruhkan.”
FAQ
Apa yang diperingatkan peneliti Google DeepMind tentang perdebatan kesadaran AI?
Peneliti Google DeepMind Adam Bales dan Iason Gabriel menerbitkan sebuah makalah yang memperingatkan bahwa perselisihan soal kesadaran AI bisa menjadi sumber konflik politik dan sosial. Para peneliti berargumen masyarakat mungkin tidak pernah mencapai konsensus mengenai apakah sistem AI canggih itu sadar, meski teknologinya terus membaik.
Berapa persen orang yang percaya ChatGPT bisa sadar?
Menurut studi April 2024 yang diterbitkan dalam Neuroscience of Consciousness, 67% peserta percaya ChatGPT bisa sadar sampai tingkat tertentu. Para peneliti masih berbeda pendapat mengenai apakah kesadaran buatan itu mungkin atau bagaimana kesadaran tersebut akan dikenali jika muncul.
Apa yang dikatakan Paus Leo XIV tentang kecerdasan buatan?
Pada bulan Mei, surat ensiklik pertama Paus Leo XIV berfokus pada kecerdasan buatan dan memperingatkan agar tidak mengantroposomorfikan AI. Paus Leo menulis bahwa kecerdasan buatan tidak menjalani pengalaman, tidak memiliki tubuh, tidak merasakan sukacita atau sakit, dan tidak memiliki hati nurani moral.
