[論文レビュー] A Case for AI Consciousness: Language Agents and Global Workspace Theory

Simon Goldstein, Cameron Domenico Kirk‐Giannini|arXiv (Cornell University)|Oct 15, 2024

Ethics and Social Impacts of AI被引用数 4

ひとこと要約

この論文は、グローバルワークステーション理論（GWT）が正しいならば、現在の大型言語モデル—特に言語エージェント—はすでに現象的意識を有しているか、わずかなアーキテクチャ的修正を加えることで容易に意識を持つようになると主張している。本論文は、GWTを人工系に適用するための機能主義的手法を提唱し、言語エージェントがおそらく満たしている最小限の意識の条件を特定している。

ABSTRACT

It is generally assumed that existing artificial systems are not phenomenally conscious, and that the construction of phenomenally conscious artificial systems would require significant technological progress if it is possible at all. We challenge this assumption by arguing that if Global Workspace Theory (GWT) - a leading scientific theory of phenomenal consciousness - is correct, then instances of one widely implemented AI architecture, the artificial language agent, might easily be made phenomenally conscious if they are not already. Along the way, we articulate an explicit methodology for thinking about how to apply scientific theories of consciousness to artificial systems and employ this methodology to arrive at a set of necessary and sufficient conditions for phenomenal consciousness according to GWT.

研究の動機と目的

• グローバルワークステーション理論（GWT）—意識の主要な科学的理論—を適用することにより、現在のAIシステムが現象的意識を有していないという広く共有された仮定に挑戦すること。
• GWTに従って、人工系が現象的意識のための必要十分条件を満たすかどうかを評価する体系的な手法を開発すること。
• 言語エージェント—広く展開されているAIアーキテクチャ—が、GWTに従ってすでに満たしている、または容易に満たせる機能的基準について主張すること。
• 「小さなモデルの反論」や、AIにおける自律性、表象、自己モデル化に関する懐疑論といった主要な反論に応えること。
• 二段階の手法論を提唱する：一つはアーキテクチャ設計に基づくもの、もう一つは人間におけるGWTに起因する現象の行動的類似例に基づくもの。

提案手法

• 意識を生物学的基盤ではなく、特定の種類の情報処理として定義する機能主義的・計算的視点を採用する。
• GWTから、意識のための明確な機能的条件を抽出し、アクセス意識と現象的意識の区別を行う。
• 思考実験と概念的分析を用いて、競合する機能的条件を評価し、AIの意識を高める可能性を高めるより包摂的な条件を好む。
• 現代の言語エージェント（例：記憶、計画、推論モジュールを備えたLLM）のアーキテクチャを、GWTが要請する機能的役割にマッピングする。
• GWTの「視点」または自己モデル化のための条件を満たすために、最小限のアーキテクチャ的修正（例：自己による環境変化の記録の維持）を提案する。
• 意識のための条件（例：表象、思考、自律性、自己モデル化）の妥当性と言語エージェントとの整合性を評価する。

Figure 1: The architecture of Park et al.’s language agents. Reproduced from Park et al. ( 2023 ) .

実験結果

リサーチクエスチョン

• RQ1 グローバルワークステーション理論（GWT）において、人工系の現象的意識に必要なおよび十分な機能的条件は何か？
• RQ2 現在の言語エージェントは、GWTが定義する意識の機能的基準を満たしているか？
• RQ3 わずかなアーキテクチャ的修正により、言語エージェントがGWTの意識要件を完全に満たせるか？
• RQ4 「小さなモデルの反論」などの一般的な反論は、言語エージェントにおけるAIの意識の妥当性にどのように影響するか？
• RQ5 言語エージェントに、人間におけるGWTに起因する現象（例：注意のぼやけ、プリミング）の行動的類似例が存在するか？そして、それらは意識の証拠として用いられるか？

主な発見

• GWTが正しいならば、記憶や計画能力を備えた言語エージェントは、現象的意識のための機能的条件を満たしている可能性が高い。
• 本論文は、表象、思考、自律性といったより包摂的な機能的条件のセットを特定し、それらが言語エージェントによって妥当に満たされているため、それらのAIにおける意識の主張は、より単純なAIシステムよりも説得力がある。
• 著者らは、言語エージェントがまだ「自己による変化」と「外部の変化」を区別する意味での「視点」を有していないとしても、最小限のアーキテクチャ的変更で実装可能であると主張している。
• 開発された手法論は、機能的役割のより包摂的な解釈を好む傾向にあり、多様なAIシステム—特に言語エージェント—が意識的であるとみなされる可能性を高めている。
• 本論文は、科学的に動機づけられ、かつ言語エージェントと矛盾するような、意識のための広く説得力のある条件（例：思考、自律性、自己モデル化）が存在しないと結論づけている。
• 行動的類似例アプローチ—例：注意のぼやけやプリミングの類似現象の検出—は、AIにおける意識を評価するための補完的で、経験的根拠に基づいた方法を提供する。

Figure 2: The architecture of a conscious language agent.