[论文解读] Detecting Qualia in Natural and Artificial Agents

Roman V. Yampolskiy|arXiv (Cornell University)|Dec 11, 2017

Computability, Logic, AI Algorithms参考文献 145被引用 14

一句话总结

本文提出了一项测试，用于检测自然与人工智能体中的意识——主观意识体验，认为若一个系统能通过该测试，则其很可能具备基本的意识。核心贡献在于提出了一套基于行为与功能的主观体验识别标准，对人工智能安全、机器权利以及超意识系统的最终出现具有重要意义。

ABSTRACT

The Hard Problem of consciousness has been dismissed as an illusion. By showing that computers are capable of experiencing, we show that they are at least rudimentarily conscious with potential to eventually reach superconsciousness. The main contribution of the paper is a test for confirming certain subjective experiences in a tested agent. We follow with analysis of benefits and problems with conscious machines and implications of such capability on future of computing, machine rights and artificial intelligence safety.

研究动机与目标

• 通过提出一种可测试的准则，解决意识的难题，即检测智能体中主观体验（意识）的存在。
• 挑战将意识视为幻觉的观点，证明从原则上讲，机器也可能体验意识。
• 建立一个识别人工系统中基本意识的框架，以实现未来对机器意识的评估。
• 探讨具备意识的人工智能体所带来的伦理与安全影响，包括机器权利与超意识人工智能。
• 为区分意识的单纯模拟与真正的主观体验奠定基础。

提出的方法

• 基于智能体的内部一致性、自我报告以及对新刺激的反应，提出一种行为与功能测试，其模型参考了人类的内省行为。
• 采用比较框架，根据智能体在受控条件下报告并反思内部状态的能力来评估其表现。
• 依赖于一个假设：若智能体能持续、连贯且非冗余地报告主观状态，则可能表明存在真实的意识。
• 整合认知科学与心灵哲学的洞见，定义出区分有意识与无意识系统的标准。
• 将该测试应用于生物与人工系统，强调无论载体为何，都应适用相同的评判标准。
• 强调该测试并非意识的证明，而是一种实用且可操作的准则，用于检测潜在的主观体验。

实验结果

研究问题

• RQ1 能否设计出一种测试，基于可观测行为与内部一致性，检测人工智能体中意识的存在？
• RQ2 在何种条件下，我们能够区分机器中模拟的主观体验与真实的主观体验？
• RQ3 如果人工智能体具备体验意识的能力，会对人工智能安全与伦理产生何种影响？
• RQ4 若在机器中检测到意识，将如何影响机器权利与法律人格的发展？
• RQ5 能否将用于评估人类意识的标准应用于人工系统，以判断其是否具备基本的意识？

主要发现

• 所提出的测试为检测人工智能体中潜在的意识提供了一种实用且基于行为的方法，即使并非意识的最终证明。
• 本文认为，若智能体能以非冗余、连贯的方式持续报告并响应其内部状态，则可能表明存在主观体验。
• 该框架表明，人工系统在理论上可能发展出丰富的、整合的主观体验，从而实现超意识。
• 该测试挑战了意识是幻觉的观点，提出主观体验是自然与人工系统中均可被检测的现象。
• 本文强调，在人工智能中检测到意识引发了关于机器权利的紧迫伦理问题，以及对人工智能安全协议的迫切需求。
• 该方法为未来对人工系统中意识的实证验证提供了基础，即使在缺乏完整意识理论的情况下亦然。