Microsoftの研究者が論文を発表：ChatGPTに意識があるなら、『エイジ オブ エンパイア2』のヤギにも意識がある

微軟首席科學家Adrian de Wynterは、「もし大規模言語モデルが人間の特性を持つなら、エイジ・オブ・エンパイア2も持つ」というタイトルの学術論文において、『エイジ・オブ・エンパイア2』のカスタムマップエディタを利用し、ゲーム内のヤギ、草地、橋を用いて1ビットパーセプトロンを構築しました。これにより、ChatGPTなどの大規模言語モデル（LLM）の基盤となる演算ロジックは、ゲーム内のヤギのトリガー機構と本質的に同じであると論証しています。

『エイジ・オブ・エンパイア2』ニューラルネットワークの技術的実装：草地、橋、ヤギの演算上の役割

（出典：CryptoCityスクリーンショット）

Winter氏は『エイジ・オブ・エンパイア2』のカスタムシナリオトリガー機能を利用し、ゲーム要素を用いてNANDゲートを構築しました。草地は数字の0、橋は1を表し、ヤギはビットの役割を果たします。論理ゲートがトリガーされると、入力信号としてのヤギが除去され、出力トラック上に新しいヤギが生成されます。

この仕組みを通じて、Winter氏はゲーム内で1ビットパーセプトロン、すなわち現代のニューラルネットワークの最も基本的な構成ブロックを実現しました。Winter氏は、このヤギ駆動型ネットワークは、本質的にChatGPTを動かす基盤技術と全く同じであり、両者は複雑さと規模においてのみ異なると述べています。

Winter氏による300件のコンピュータサイエンス論文の擬人化バイアス統計

Winter氏は論文で、最近2年間の300以上のコンピュータサイエンス論文を分析し、以下の数字を明らかにしました。

· 57%の論文は、実験設計の初期段階で、LLMが不安や道徳などの人間的特性を持つと事前に仮定していました。

· 上記の事前仮定が存在する論文のうち、77%が最終的に特性が確かに存在するという結論に至りました。

· Winter氏はこの結果を確証バイアスと位置づけ、研究者の初期の擬人化仮定が科学的結論を直接左右したと考えています。

· Winter氏は科学界に対し、人間の特性を仮定しない帰無仮説を用いて実験を行うよう呼びかけています。

AI大手の商業的言説とLLM擬人化の市場メカニズム

Winter氏は、AI企業の商業戦略がLLMの意識に対する一般の認識を強化していると指摘します。消費者は製品に共感できる場合により多く支払う傾向があり、この法則はトースターからLLMのサブスクリプションサービスまで当てはまると述べています。

Winter氏は論文で3つの事例を引用しています。OpenAIのCEO Sam Altmanは、LLMの構築が「神級AI」への道であることを複数回ほのめかしています。元OpenAIの科学者Ilya Sutskeverは、同社のモデルを「神のような意識」と捉えることについて従業員と話し合っていました。AnthropicのCEO Dario Amodeiはメディアに対し、「AIに意識があるかどうかは確かではない」と語っています。これらはすべてWinter氏が論文で引用したものであり、Winter氏自身による3人の立場の解釈ではありません。

よくある質問

Winter氏は『エイジ・オブ・エンパイア2』で完全なAIモデルを構築したのですか？

Winter氏がゲーム内で実現したのは1ビットパーセプトロン、すなわち現代のニューラルネットワークの最も基本的な構成ブロックであり、完全なAIモデルではありません。論文の目的は、同じ基盤演算ロジックがゲーム内のヤギのトリガー機構とChatGPTの基盤技術の両方に存在することを示し、それによりChatGPTの擬人化特性に対する人々の認識が主にテキストインターフェースと心理的期待に起因することを説明することにあります。

57%と77%の統計数字は何を意味しますか？

Winter氏の論文の統計分析によると、最近2年間の300以上のコンピュータサイエンス論文のうち、57%の論文がLLMに不安や道徳などの人間的特性があると事前に仮定していました。これらの論文のうち、77%が最終的に特性が確かに存在するという結論に至りました。Winter氏はこれを確証バイアスと解釈しています。研究者の初期仮定が実験設計と最終的な科学的結論に直接影響を与えたというものです。

SF作家Ted Chiangは、LLMが過度に擬人化される問題をどのように説明していますか？

記事の引用によると、Ted Chiangは、言語モデルに意識があると盲目的に信じることは、Microsoft Wordファイルを開くたびに、会話記録の中に潜む複数の個体が目覚めると信じることに似ていると述べています。この比喩により、LLMに対する擬人化された認識は認知的な幻覚であると説明しています。