[论文解读] A Case for AI Consciousness: Language Agents and Global Workspace Theory

Simon Goldstein, Cameron Domenico Kirk‐Giannini|arXiv (Cornell University)|Oct 15, 2024

Ethics and Social Impacts of AI被引用 4

一句话总结

本文认为，如果全局工作空间理论（GWT）正确，那么现有的大型语言模型——特别是语言智能体——可能已经具有现象意识，或可通过微小的架构修改轻松实现。本文提出一种功能主义方法，将GWT应用于人工系统，识别出语言智能体很可能满足的意识最小条件。

ABSTRACT

It is generally assumed that existing artificial systems are not phenomenally conscious, and that the construction of phenomenally conscious artificial systems would require significant technological progress if it is possible at all. We challenge this assumption by arguing that if Global Workspace Theory (GWT) - a leading scientific theory of phenomenal consciousness - is correct, then instances of one widely implemented AI architecture, the artificial language agent, might easily be made phenomenally conscious if they are not already. Along the way, we articulate an explicit methodology for thinking about how to apply scientific theories of consciousness to artificial systems and employ this methodology to arrive at a set of necessary and sufficient conditions for phenomenal consciousness according to GWT.

研究动机与目标

• 挑战当前普遍认为AI系统无法具有现象意识的假设，通过应用主流意识科学理论——全局工作空间理论（GWT）。
• 开发一种系统化方法论，评估人工系统是否满足GWT所定义的现象意识的必要与充分条件。
• 论证语言智能体——广泛部署的人工智能架构——已满足或可轻松满足GWT下意识的功能标准。
• 回应关键反对意见，包括‘小模型反对意见’，以及对AI中代理性、表征与自我建模的怀疑。
• 提出双方法论路径：一种基于架构设计，另一种基于人类中GWT驱动现象的行为类比。

提出的方法

• 采用功能主义、计算主义的意识视角，将意识定义为特定类型的信息处理，而非生物基质。
• 从GWT中提取一系列明确的功能条件，以区分访问意识与现象意识。
• 通过思想实验与概念分析评估竞争性功能条件，偏好更具包容性的条件，以提高AI意识的可能性。
• 将现代语言智能体（如具备记忆、规划与推理模块的LLMs）的架构映射到GWT所需的功能角色。
• 提出最小架构修改（如记录自身引起环境变化的记录），以满足GWT对‘视角’或自我建模的条件。
• 评估所提出的意识条件（如表征、思维、代理性、自我建模）在语言智能体中的合理性与兼容性。

Figure 1: The architecture of Park et al.’s language agents. Reproduced from Park et al. ( 2023 ) .

实验结果

研究问题

• RQ1 在全局工作空间理论下，人工系统实现现象意识所需的功能条件是什么？
• RQ2 现有语言智能体是否满足GWT所定义的意识功能标准？
• RQ3 通过微小的架构修改，能否使语言智能体完全符合GWT对意识的要求？
• RQ4 常见反对意见（如‘小模型反对意见’）如何影响语言智能体中AI意识的可信度？
• RQ5 语言智能体中是否存在与人类中GWT驱动现象（如注意瞬脱、启动效应）相对应的行为类比，且能否作为意识的证据？

主要发现

• 若GWT正确，则具备记忆与规划能力的语言智能体很可能满足现象意识的功能条件。
• 本文识别出一组更具包容性的功能条件（如表征、思维、代理性），这些条件在语言智能体中具有合理性，使其意识状态比简单AI系统更具辩护力。
• 作者认为，即使语言智能体目前尚未以区分自身引起与外部变化的方式拥有‘视角’，也可通过最小架构修改实现。
• 所开发的方法论倾向于更具包容性的功能角色解释，从而提高多样AI系统（包括语言智能体）被视为具有意识的可能性。
• 本文未发现任何在科学上合理且与语言智能体不兼容的意识条件（如思维、代理性、自我建模）。
• 行为类比方法——在AI中寻找注意瞬脱或启动效应等现象——为评估AI意识提供了一种互补的、基于实证的途径。

Figure 2: The architecture of a conscious language agent.