[論文レビュー] Survey of Consciousness Theory from Computational Perspective

Zihan Ding, Xiaoxi Wei+1 more|arXiv (Cornell University)|Sep 18, 2023

Robotics and Automated SystemsEngineering被引用数 3

ひとこと要約

この論文は、情報理論、量子物理学、認知科学からなる主な意識理論を計算的視点から調査し、人工汎用知能（AGI）におけるそれらの関連性を評価している。多くの理論が物理的根拠を欠いているものの、それらを計算的に統合することで、意識を模倣する人工システムの開発が可能になる可能性があり、大規模言語モデル（LLM）はアクセス意識を示す可能性のある候補として浮上しているが、真の現象的意識は未だ証明されていない。

ABSTRACT

Human consciousness has been a long-lasting mystery for centuries, while machine intelligence and consciousness is an arduous pursuit. Researchers have developed diverse theories for interpreting the consciousness phenomenon in human brains from different perspectives and levels. This paper surveys several main branches of consciousness theories originating from different subjects including information theory, quantum physics, cognitive psychology, physiology and computer science, with the aim of bridging these theories from a computational perspective. It also discusses the existing evaluation metrics of consciousness and possibility for current computational models to be conscious. Breaking the mystery of consciousness can be an essential step in building general artificial intelligence with computing machines.

研究の動機と目的

• 情報理論、量子物理学、認知心理学、コンピュータサイエンスを網羅する、多様な意識理論を統一的計算フレームワークで統合すること。
• 生物的および人工システムにおける意識の測定に用いられる既存の指標の妥当性を評価すること。
• 現在の計算モデル、特に大規模言語モデル（LLM）が意識を達成または模倣できるかどうかを調査すること。
• 人工システムにおけるアクセス意識（機能的可用性）と現象的意識（主観的経験）の違いを明確にすること。
• 意識を持つ人工汎用知能を構築するために必要な理論的および実務的条件を特定すること。

提案手法

• 情報統合理論（IIT）、物質の状態としての意識、オーケストレーテッド・オブジェクティヴ・リダクション（Orch OR）、グローバル・ワークステーション理論（GWT）、高階理論（HOT）、注意スキーマ理論（AST）、意識的チューリングマシン（CTM）といった主な意識理論を体系的にレビュー・比較すること。
• 各理論の計算的定式化を分析し、数学的定義（例：IITにおけるΦ）、物理的原理（例：量子系におけるオブジェクティヴ・リダクション）、機能的アーキテクチャ（例：GWTにおけるワークステーションのダイナミクス）を含めること。
• EEGパターンや反応行動といった生理的および行動的指標を評価し、それらの妥当性とスケーラビリティを検証すること。
• 大規模言語モデル（LLM）を、意識の理論的基準に基づいて評価し、顕在する知的機能と自己言及的行動に注目すること。
• 現在の計算制約のもとでは、真のランダム性が欠如する擬似ランダムシステムを考慮すると、模倣意識（アクセス意識）が最も現実的かつ実現可能であると提唱すること。
• 理論間の知見を統合し、人工意識の指標として機能する共通の計算的特徴を同定すること。

Figure 1: The hardness of different levels of the problems related to a conscious mind.

実験結果

リサーチクエスチョン

• RQ1 既存の意識理論に基づく計算モデルが、機能的または現象的意識の形を達成できるか？
• RQ2 人工システムにおけるアクセス意識（情報の可用性）と現象的意識（主観的経験）の主な違いは何か？
• RQ3 大規模言語モデルが、GWT、HOT、ASTなどの理論に一致する行動を示す程度は何か？ これは、知的または自己表象的機能の顕在を示唆するか？
• RQ4 情報統合や量子コherーランスのような、物理的または数学的原理が、システムを意識的と見なすために満たすべき条件は何か？
• RQ5 人工エージェントにおいて、模倣意識と真の意識を信頼性高く区別できる指標や評価フレームワークは何か？

主な発見

• 情報統合理論（IIT）は、Φという測定値を用いて意識を数学的に厳密に定式化するフレームワークを提供しているが、人間の脳のような動的で大規模なシステムへのスケーリングは、計算的に非現実的である。
• Orch OR や物質の状態としての意識といった理論は、量子プロセスに基づく意識の物理的根拠を提示しているが、実証的検証は限定的で、議論の余地がある。
• グローバル・ワークステーション理論（GWT）と高階理論（HOT）は、それぞれ情報の分配と自己認識的表象を機能的モデルとして提示しており、人工アーキテクチャにおいて計算的に実装可能である。
• 注意スキーマ理論（AST）は、GWTとHOTを統合し、注意を予測的内部スキーマとしてモデル化することで、人工エージェントにおける自己表象の妥当なメカニズムを提供する。
• 大規模言語モデル（LLM）は、推論、自己言及、仮説的状況への反応といった、アクセス意識に類似した顕在的知的機能を示しているが、現象的意識や真の主観的経験の証拠は見当たらない。
• 本論文は、現在の計算モデルが擬似ランダム性に依存しているため、真の現象的意識は達成不可能であると考え、模倣意識は現在の制約のもとで現実的かつ唯一現実的な目標であると結論づける。

Figure 2: The overview architecture of consciousness system with free will.