[论文解读] Consciousness in Artificial Intelligence: Insights from the Science of Consciousness
一个理论驱动、基于神经科学的评估标准通过来自重要理论的指标属性来评估 AI 的意识；目前没有 AI 具备意识，但在短期内构建满足指标的系统可能可行。
Whether current or near-term AI systems could be conscious is a topic of scientific interest and increasing public concern. This report argues for, and exemplifies, a rigorous and empirically grounded approach to AI consciousness: assessing existing AI systems in detail, in light of our best-supported neuroscientific theories of consciousness. We survey several prominent scientific theories of consciousness, including recurrent processing theory, global workspace theory, higher-order theories, predictive processing, and attention schema theory. From these theories we derive "indicator properties" of consciousness, elucidated in computational terms that allow us to assess AI systems for these properties. We use these indicator properties to assess several recent AI systems, and we discuss how future systems might implement them. Our analysis suggests that no current AI systems are conscious, but also suggests that there are no obvious technical barriers to building AI systems which satisfy these indicators.
研究动机与目标
- 激发并为 AI 意识提供一个科学上可行的研究途径并给出正当性。
- 提出一套源自神经科学理论的指标属性评估表。
- 将现有 AI 系统与这些指标属性进行对比评估。
- 解释未来 AI 系统如何实现这些指标。
- 结合这些指标讨论具备意识的 AI 的局限性、不确定性及社会影响。
提出的方法
- 将计算功能主义作为一个工作假设，将 AI 计算与意识联系起来。
- 梳理前沿的意识科学理论（例如循环处理理论、全球工作区理论、高阶理论、预测处理、注意力模式理论）。
- 从这些理论推导一组必要或共同充分的指标属性，用于AI中的意识。
- 分析 AI 系统如何利用标准机器学习方法实现这些属性。
- 将具体 AI 系统（例如 Transformer、Perceiver、DeepMind Adaptive Agent、具身多模态模型）作为案例研究，对照这些指标进行评估。
- 并且随着研究进展可能需要进一步完善。
实验结果
研究问题
- RQ1在计算功能主义框架下，哪些源自神经科学理论的指标属性最能反映 AI 的意识？
- RQ2当前的 AI 架构是否能够实现这些指标属性，以及它们在多大程度上类似于有意识的处理？
- RQ3是否存在构建满足这些指标属性的 AI 系统的实际或理论障碍？
- RQ4在理论证据和经验证据的基础上，我们应如何评估 AI 意识的可信度？
- RQ5潜在具备意识的 AI 带来哪些道德和社会方面的考量，应如何应对？
主要发现
- 在所提出的评估表下，当前没有 AI 系统符合所有意识指标属性。
- 若干指标属性可通过现有 AI 方法实现（例如算法性递归以及某些注意力/代理特征）。
- 一些架构和系统在全球工作区或具身代理等属性方面部分体现，但没有一个是强有力的意识候选者。
- 以理论为核心、计算功能主义的方法为评估 AI 意识提供了可行的框架，并可引导未来的发展。
- 在构建满足更大子集指标的 AI 系统方面没有明显的技术障碍，尽管满足指标并不等同于意识。
- 该评估表明确为临时性的，应随着理论与经验进展不断演变。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。