Peneliti Microsoft menerbitkan makalah: Jika ChatGPT memiliki kesadaran, kambing di Age of Empires 2 juga memilikinya.

Kepala ilmuwan Microsoft, Adrian de Wynter, dalam makalah akademis berjudul "Jika Model Bahasa Besar Memiliki Sifat Manusia, Maka Age of Empires 2 Juga Memilikinya", menggunakan editor peta khusus Age of Empires 2 untuk membangun perceptron 1-bit dengan kambing, rerumputan, dan jembatan dalam game, dengan demikian berargumen bahwa logika komputasi dasar di balik ChatGPT dan model bahasa besar (LLM) lainnya pada dasarnya sama dengan mekanisme pemicu kambing dalam game.

Realisasi Teknis Jaringan Saraf Age of Empires 2: Peran Komputasi Rerumputan, Jembatan, dan Kambing

(Sumber: Tangkapan layar CryptoCity)

Wynter menggunakan fungsi pemicu skenario kustom Age of Empires 2 untuk membangun gerbang NAND dengan elemen game: rerumputan mewakili angka 0, jembatan mewakili angka 1, dan kambing berperan sebagai bit. Saat gerbang logika dipicu, kambing yang berfungsi sebagai sinyal masukan akan dihapus, dan kambing baru akan muncul di jalur keluaran.

Melalui mekanisme ini, Wynter mewujudkan perceptron 1-bit dalam game, yaitu blok bangunan paling dasar dari jaringan saraf modern. Wynter menyatakan bahwa jaringan yang digerakkan oleh kambing ini, pada dasarnya, sama persis dengan teknologi dasar yang menggerakkan ChatGPT, keduanya hanya berbeda dalam kompleksitas dan skala.

Statistik Bias Antropomorfisme Wynter terhadap 300 Makalah Ilmu Komputer

Wynter menganalisis lebih dari 300 makalah ilmu komputer dalam dua tahun terakhir dan mengungkap angka-angka berikut:

· 57% makalah, sejak awal desain eksperimen, telah mengasumsikan bahwa LLM memiliki sifat manusia seperti kecemasan atau moralitas.

· Di antara makalah yang memiliki asumsi sifat tersebut, 77% akhirnya menyimpulkan bahwa sifat tersebut memang ada.

· Wynter mengklasifikasikan hasil ini sebagai bias konfirmasi, dan percaya bahwa asumsi antropomorfisme awal peneliti secara langsung memengaruhi kesimpulan ilmiah akhir.

· Wynter menyerukan komunitas ilmiah untuk menggunakan hipotesis nol yang tidak mengasumsikan sifat manusia dalam eksperimen.

Narasi Bisnis Raksasa AI dan Mekanisme Pasar Antropomorfisme LLM

Wynter menunjukkan bahwa strategi bisnis perusahaan AI memperkuat persepsi publik tentang kesadaran LLM. Ia menyebutkan bahwa konsumen cenderung lebih bersedia membayar ketika mereka dapat beresonansi dengan suatu produk, suatu prinsip yang berlaku untuk pemanggang roti hingga layanan berlangganan LLM.

Wynter mengutip tiga contoh dalam makalahnya: CEO OpenAI Sam Altman telah beberapa kali mengisyaratkan bahwa membangun LLM adalah jalan menuju "AI setara dewa"; mantan ilmuwan OpenAI Ilya Sutskever pernah berdiskusi dengan karyawan tentang menganggap model perusahaan sebagai "kesadaran seperti dewa"; CEO Anthropic Dario Amodei mengatakan kepada media bahwa "tidak dapat memastikan apakah AI memiliki kesadaran". Pernyataan-pernyataan di atas telah dikutip oleh Wynter dalam makalahnya, dan bukan interpretasi pribadi Wynter terhadap posisi ketiganya.

Pertanyaan Umum

Apakah yang dibangun Wynter di Age of Empires 2 adalah model AI yang lengkap?

Yang diwujudkan Wynter dalam game adalah perceptron 1-bit, yaitu blok bangunan paling dasar dari jaringan saraf modern, bukan model AI yang lengkap. Tujuan makalah ini adalah untuk menunjukkan bahwa logika komputasi dasar yang sama ada dalam mekanisme pemicu kambing game dan teknologi dasar ChatGPT, dengan demikian menjelaskan bahwa persepsi orang terhadap sifat antropomorfik ChatGPT terutama berasal dari antarmuka teks dan ekspektasi psikologis.

Apa arti dari dua angka statistik 57% dan 77%?

Menurut analisis statistik Wynter dalam makalahnya, dari lebih dari 300 makalah ilmu komputer dalam dua tahun terakhir, 57% makalah mengasumsikan bahwa LLM memiliki sifat manusia seperti kecemasan atau moralitas; dari makalah-makalah tersebut, 77% akhirnya menyimpulkan bahwa sifat tersebut memang ada. Wynter menafsirkan ini sebagai bias konfirmasi—asumsi awal peneliti secara langsung memengaruhi desain eksperimen dan kesimpulan ilmiah akhir.

Bagaimana penulis fiksi ilmiah Ted Chiang mendeskripsikan masalah antropomorfisme berlebihan pada LLM?

Menurut kutipan dalam artikel, Ted Chiang pernah menulis bahwa mempercayai secara buta bahwa model bahasa memiliki kesadaran, sama seperti mempercayai bahwa setiap kali membuka file Microsoft Word, kita membangunkan banyak individu yang tersembunyi dalam catatan dialog, dengan metafora ini ia menjelaskan bahwa persepsi antropomorfik terhadap LLM adalah ilusi kognitif.