[論文レビュー] Consciousness in Artificial Intelligence: Insights from the Science of Consciousness

Patrick Butlin, Robert P. Long+17 more|arXiv (Cornell University)|Aug 17, 2023

Explainable Artificial Intelligence (XAI)被引用数 184

ひとこと要約

理論駆動の神経科学に基づくルーブリックは、顕著な理論から派生した指標特性を用いてAIの意識を評価する。現時点のAIは意識を持っていないが、指標を満たすシステムの直近の構築は実現可能かもしれない。

ABSTRACT

Whether current or near-term AI systems could be conscious is a topic of scientific interest and increasing public concern. This report argues for, and exemplifies, a rigorous and empirically grounded approach to AI consciousness: assessing existing AI systems in detail, in light of our best-supported neuroscientific theories of consciousness. We survey several prominent scientific theories of consciousness, including recurrent processing theory, global workspace theory, higher-order theories, predictive processing, and attention schema theory. From these theories we derive "indicator properties" of consciousness, elucidated in computational terms that allow us to assess AI systems for these properties. We use these indicator properties to assess several recent AI systems, and we discuss how future systems might implement them. Our analysis suggests that no current AI systems are conscious, but also suggests that there are no obvious technical barriers to building AI systems which satisfy these indicators.

研究の動機と目的

• 科学的に扱いやすいAIの意識アプローチを動機づけ、正当化する。
• 神経科学理論に由来する指標特性のルーブリックを提案する。
• 既存のAIシステムを指標特性に照らして評価する。
• 将来のAIシステムが指標を実装する方法を説明する。
• 指標を踏まえたうえで、意識を持つAIの限界・不確実性・社会的影響を議論する。

提案手法

• AIの計算を意識と関連付ける作業仮説として計算的機能主義を採用する。
• 意識の主要な科学理論を調査する（例：反復処理理論、グローバルワークスペース理論、高次理論、予測処理、注意スキーマ理論）。
• これらの理論から、AIの意識にとって必須または共同的に十分である指標特性の集合を導出する。
• 標準的な機械学習手法を用いてAIシステムがこれらの特性をどう実装できるかを分析する。
• 具体的なAIシステム（例：Transformers、Perceiver、DeepMind Adaptive Agent、具現化された多モーダルモデル）を指標に対するケーススタディとして評価する。
• ルーブリックは暫定的で、研究の進展に伴い精練されるべきであると主張する。

実験結果

リサーチクエスチョン

• RQ1 計算的機能主義の下で、神経科学理論に由来するどの指標特性がAIの意識を最もよく追跡するか？
• RQ2 現在のAIアーキテクチャはこれらの指標特性を実装できるか、意識的処理とどの程度似ているか？
• RQ3 指標特性を満たすAIシステムを構築する際の実務的または理論的障壁はあるか？
• RQ4 理論的裏付けと経験的証拠を踏まえ、AIの意識の信念度をどう評価すべきか？
• RQ5 潜在的な意識を持つAIから生じる倫理的・社会的配慮は何で、それらにどう対処すべきか？

主な発見

• 提案されたルーブリックの下で、現時点のAIシステムはすべての指標特性を満たしていない。
• いくつかの指標特性は、既存のAI手法で実装可能（例：アルゴリズム的再帰といくつかの注意/主体性機能）。
• いくつかのアーキテクチャやシステムはグローバルワークスペースや具現化された主体性に関連する性質を部分的に示すが、意識の有力な候補とは言えない。
• 理論重視の計算機能主義アプローチは、AIの意識を評価する実行可能な枠組みを提供し、今後の開発を指針できる。
• 指標のより大きなサブセットを満たすAIシステムの構築に明らかな技術的障壁はないが、指標を満たすことが意識を保証するわけではない。
• ルーブリックは明示的に暫定的であり、継続的な理論的・経験的進展とともに進化すべきである。