[论文解读] Survey of Consciousness Theory from Computational Perspective

Zihan Ding, Xiaoxi Wei+1 more|arXiv (Cornell University)|Sep 18, 2023

Robotics and Automated SystemsEngineering被引用 3

一句话总结

本文从计算视角综述了意识的主要理论——涵盖信息论、量子物理和认知科学——评估其在人工通用智能中的相关性。文章认为，尽管大多数理论缺乏物理基础，但通过计算整合，可能实现模拟意识的智能系统，大型语言模型或可成为展现访问意识的候选者，但真正的现象意识仍未经证实。

ABSTRACT

Human consciousness has been a long-lasting mystery for centuries, while machine intelligence and consciousness is an arduous pursuit. Researchers have developed diverse theories for interpreting the consciousness phenomenon in human brains from different perspectives and levels. This paper surveys several main branches of consciousness theories originating from different subjects including information theory, quantum physics, cognitive psychology, physiology and computer science, with the aim of bridging these theories from a computational perspective. It also discusses the existing evaluation metrics of consciousness and possibility for current computational models to be conscious. Breaking the mystery of consciousness can be an essential step in building general artificial intelligence with computing machines.

研究动机与目标

• 通过统一的计算框架，弥合跨学科的意识理论——涵盖信息论、量子物理、认知心理学和计算机科学。
• 评估用于测量生物与人工系统中意识的现有指标。
• 探究当前计算模型，尤其是大型语言模型，是否能够实现或模拟意识。
• 澄清人工系统中访问意识（功能性可用性）与现象意识（主观体验）之间的区别。
• 识别构建有意识的人工通用智能所需的关键理论与实际条件。

提出的方法

• 系统性地回顾并比较主要意识理论：信息整合理论（IIT）、意识作为物质状态、量调控御客观还原（Orch OR）、全局工作空间理论（GWT）、高阶理论（HOT）、注意图式理论（AST）以及意识图灵机（CTM）。
• 分析每种理论的计算表述，包括数学定义（如IIT中的Φ）、物理原理（如量子系统中的客观还原）以及功能架构（如GWT中的工作空间动态）。
• 评估生理与行为指标（如EEG模式与响应行为）以评估其有效性与可扩展性。
• 根据理论标准评估大型语言模型（LLMs）的表现，重点关注其涌现的智力能力与自我指涉行为。
• 提出在当前计算约束下，模拟意识（访问意识）可能是最可行的结果，尤其考虑到伪随机系统中缺乏真正的随机性。
• 整合各理论的洞见，识别可作为人工意识指标的共同计算特征。

Figure 1: The hardness of different levels of the problems related to a conscious mind.

实验结果

研究问题

• RQ1 基于现有意识理论的计算模型能否实现功能性或现象性的意识形式？
• RQ2 在人工系统中，访问意识（信息可用性）与现象意识（主观体验）之间的关键差异是什么？
• RQ3 大型语言模型在多大程度上表现出与GWT、HOT或AST等理论一致的行为，表明其具备涌现的智力或自我表征能力？
• RQ4 哪些物理或数学原理——如信息整合或量子相干性——必须满足，系统才能被视为具有意识？
• RQ5 何种指标或评估框架能够可靠地区分人工代理中的模拟意识与真实意识？

主要发现

• 信息整合理论（IIT）通过Φ这一度量提供了意识的数学严谨框架，但将其扩展至动态、大规模系统（如人脑）在计算上仍不可行。
• 如Orch OR与意识作为物质状态等理论提出意识的物理基础根植于量子过程，但其经验验证仍有限且具争议。
• 全局工作空间理论（GWT）与高阶理论（HOT）分别提供了意识的功能模型，分别对应信息分发与元认知表征，且可在人工架构中实现计算化。
• 注意图式理论（AST）通过将注意建模为预测性内部图式，统一了GWT与HOT，为人工代理中的自我表征提供了合理机制。
• 大型语言模型展现出类似访问意识的涌现智力能力——如推理、自我指涉与对假设情境的响应——但缺乏现象意识或真正主观体验的证据。
• 本文结论认为，尽管受制于伪随机性，当前计算模型可能无法实现真正的现象意识，但模拟意识是可行的，且在现有约束下极可能是唯一实际可行的目标。

Figure 2: The overview architecture of consciousness system with free will.