[论文解读] Could a Large Language Model be Conscious?

David J. Chalmers|arXiv (Cornell University)|Mar 4, 2023

Topic Modeling被引用 127

一句话总结

Chalmers 分析了关于大型语言模型意识的支持与反对的论点，指出当前的障碍，但暗示未来的继任者可能实现意识。

ABSTRACT

There has recently been widespread discussion of whether large language models might be sentient. Should we take this idea seriously? I will break down the strongest reasons for and against. Given mainstream assumptions in the science of consciousness, there are significant obstacles to consciousness in current models: for example, their lack of recurrent processing, a global workspace, and unified agency. At the same time, it is quite possible that these obstacles will be overcome in the next decade or so. I conclude that while it is somewhat unlikely that current large language models are conscious, we should take seriously the possibility that successors to large language models may be conscious in the not-too-distant future.

研究动机与目标

• 在主流意识理论下评估当前大型语言模型是否表现出意识。
• 识别当前 LLMs 的主要障碍（例如，循环处理、全局工作区、统一代理性）。
• 评估未来的 LLMs 可能克服这些障碍并获得意识的可能性。

提出的方法

• 对应用于 LLM 的标准意识标准进行回顾和批评。
• 对结构性要求的系统分析，如循环处理、全局工作区和统一代理性。
• 讨论技术发展路线和克服当前局限性的未来可能性。

实验结果

研究问题

• RQ1 当前的大型语言模型是否符合传统的意识标准？
• RQ2 阻碍 LLMs 产生意识的主要障碍有哪些？
• RQ3 未来的 LLMs 继任者是否有可能克服这些障碍并在不久的将来具有意识？

主要发现

• 在主流理论下，当前的 LLMs 不太可能具备意识，因为缺少循环处理、全局工作区和统一代理性。
• 在未来十年左右，后续者有一个可行的路径来克服这些障碍。
• 尽管目前存在怀疑，但未来具备意识的 LLMs 的可能性值得认真考虑并持续研究。