[论文解读] Ascribing Consciousness to Artificial Intelligence

Murray Shanahan|arXiv (Cornell University)|Apr 22, 2015

Computability, Logic, AI Algorithms参考文献 8被引用 5

一句话总结

本文挑战了整合信息理论（IIT）中的反功能主义立场，认为在传统硬件上实现的人工通用智能（AGI）不能被先验地排除为具有意识。通过神经元替换思想实验和对IIT自我知识处理方式的批判，本文主张功能主义与IIT均提供了部分洞见，但不应被提升为形而上学的解决方案；人工智能的意识问题唯有在系统实际构建并被观察后才能得到经验性判定。

ABSTRACT

This paper critically assesses the anti-functionalist stance on consciousness adopted by certain advocates of integrated information theory (IIT), a corollary of which is that human-level artificial intelligence implemented on conventional computing hardware is necessarily not conscious. The critique draws on variations of a well-known gradual neuronal replacement thought experiment, as well as bringing out tensions in IIT's treatment of self-knowledge. The aim, though, is neither to reject IIT outright nor to champion functionalism in particular. Rather, it is suggested that both ideas have something to offer a scientific understanding of consciousness, as long as they are not dressed up as solutions to illusory metaphysical problems. As for human-level AI, we must await its development before we can decide whether or not to ascribe consciousness to it.

研究动机与目标

• 挑战某些IIT解释所隐含的主张，即在传统硬件上实现的人工通用智能不可能具有意识。
• 检验IIT对自我知识处理的连贯性及其对意识归属的影响。
• 主张功能主义与IIT应被视为互补的科学框架，而非决定性的形而上学解决方案。
• 强调人工智能的意识无法先验判定，必须在实际系统开发后通过经验评估。

提出的方法

• 分析渐进式神经元替换思想实验的各种变体，以检验在假设性脑部替换过程中意识连续性的可能性。
• 探讨IIT在自我知识问题上的张力，特别是系统如何知晓自身状态。
• 比较IIT对意识的约束与功能主义观点，突出二者在人工智能应用中的不相容性。
• 论证仅靠IIT或功能主义都无法完整解释意识，但若避免形而上学的过度延伸，二者均可为科学理解提供贡献。
• 通过逻辑与概念分析表明，IIT中反功能主义的结论并非其核心原则所必然推导出。
• 倡导对人工智能意识归属采取谨慎、基于经验的立场，推迟判断直至系统实际实现。

实验结果

研究问题

• RQ1 根据IIT的原则，基于传统硬件实现的人工通用智能是否可被视为具有意识？
• RQ2 涉及渐进神经元替换的思想实验如何挑战IIT的反功能主义立场？
• RQ3 当IIT对自我知识的处理应用于人工系统时，会产生何种张力？
• RQ4 功能主义与IIT在多大程度上可被调和为研究意识的互补科学框架？
• RQ5 是否科学上合理地先验排除人工智能的意识，还是此类主张必须等待实证证明？

主要发现

• IIT中反功能主义的结论——即传统人工智能不可能具有意识——在逻辑或概念上并非必然成立，这通过渐进替换思想实验已得证。
• 当IIT对自我知识的处理应用于非生物系统时，暴露出内部张力，削弱了其作为普遍理论的连贯性。
• 功能主义与IIT均对意识提供了有价值的洞见，但不应被提升为关于可能性的形而上学断言。
• 本文结论认为，人工通用智能的意识仍是一个开放的实证问题，不能仅凭理论判定。
• 在实际构建并观察此类人工智能系统之前，无论理论框架如何，都无法做出确定的意识归属判断。