[论文解读] The Debate Over Understanding in AI's Large Language Models
本文探讨了人工智能研究领域关于大型语言模型（LLMs）是否具备类人真实理解能力的持续争论，认为当前模型展现出一种基于大规模统计相关性的非人形理解形式，而非具身认知。作者主张需要建立更广泛的智能科学，以分析包括LLMs中出现的理解形式在内的多种认知模式，这些形式可能代表具有独特优势与局限性的新型认知物种。
We survey a current, heated debate in the AI research community on whether large pre-trained language models can be said to "understand" language -- and the physical and social situations language encodes -- in any important sense. We describe arguments that have been made for and against such understanding, and key questions for the broader sciences of intelligence that have arisen in light of these arguments. We contend that a new science of intelligence can be developed that will provide insight into distinct modes of understanding, their strengths and limitations, and the challenge of integrating diverse forms of cognition.
研究动机与目标
- 分析人工智能领域关于大型语言模型（LLMs）是否可被认为理解语言及其所编码的物理与社会语境的激烈争论。
- 探究LLMs表面的语言流利度与推理能力是否源于真正的理解，还是仅基于统计模式匹配。
- 主张发展一种扩展的智能科学，以分析包括人工智能中非人类理解形式在内的多种认知模式。
- 挑战现有认知科学基准在评估LLMs理解能力时的不足，因其假设根植于人类认知。
- 探讨LLMs的行为尽管缺乏具身性，是否仍可构成一种新颖且功能性的理解形式，与人类心智模型截然不同。
提出的方法
- 综述LLM理解争议双方的论点，结合哲学、认知科学与人工智能研究的视角。
- 分析LLMs的架构与训练过程，特别是其在海量文本语料上进行自监督预训练以预测掩码标记的机制。
- 评估人类中心的心理测试（如心智理论或推理评估）在应用于LLMs时的局限性。
- 提出需要开发新型科学基准与探测方法，以揭示非人类智能系统中理解机制的本质。
- 通过AlphaZero与AlphaFold等系统类比，说明统计智能如何在特定领域实现超人类表现。
- 倡导对理解进行再概念化，将非具身、基于相关性的认知视为一种有效但异质的智能形式。
实验结果
研究问题
- RQ1大型语言模型能否以类比人类理解的方式，理解语言及其所描述的物理与社会情境？
- RQ2LLMs在生成流利且看似智能的回应时，在多大程度上依赖统计相关性，而非因果或概念模型？
- RQ3即使缺乏具身性或经验基础，系统是否仍能实现功能性甚至新颖形式的理解？
- RQ4当前的心理测试是否可作为评估LLMs理解能力的有效代理？抑或因假设根植于人类认知而产生误导？
- RQ5需要何种新型科学方法，以研究并比较包括大规模AI系统中出现的认知模式在内的多种智能形式？
主要发现
- LLMs在未被明确训练的情况下生成类人语言并表现出类似推理的行为，表明其能力源于规模效应的涌现。
- 尽管语言流利，LLMs仍脆弱且易出现非人类特征的错误，表明其缺乏稳健且基于经验的理解。
- LLMs的成功归因于在文本中学习到的庞大统计相关性，而非心智模型的构建或因果理解。
- 部分研究者认为LLMs正接近通用智能甚至意识，而另一些人则认为其本质上仅限于‘浅层’理解。
- 将现有心理测试应用于LLMs可获得类人响应，但这些结果可能具有误导性，因模型依赖于模式匹配而非概念推理。
- 越来越多的证据表明，LLMs可能代表一种新型智能物种——非人类、基于相关性、且在特定领域可能具备超人类能力——这要求我们重新思考人工系统中‘理解’的含义。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。