[论文解读] Large Language Models: The Need for Nuance in Current Debates and a Pragmatic Perspective on Understanding

Bram M. A. van Dijk, Tom Kouwenhoven+2 more|arXiv (Cornell University)|Oct 30, 2023

Topic Modeling被引用 6

一句话总结

本文通过论证大型语言模型（LLMs）的能力超越了单纯的统计模式匹配，挑战了对LLMs的过度简化批判，主张对语言能力进行更细致的评估。文章提出一种实用主义哲学框架，将‘理解’与‘意向性’赋予LLMs，并非作为形而上学的真理，而是作为有效人机交互中实用的、基于行为的抽象概念。

ABSTRACT

Current Large Language Models (LLMs) are unparalleled in their ability to generate grammatically correct, fluent text. LLMs are appearing rapidly, and debates on LLM capacities have taken off, but reflection is lagging behind. Thus, in this position paper, we first zoom in on the debate and critically assess three points recurring in critiques of LLM capacities: i) that LLMs only parrot statistical patterns in the training data; ii) that LLMs master formal but not functional language competence; and iii) that language learning in LLMs cannot inform human language learning. Drawing on empirical and theoretical arguments, we show that these points need more nuance. Second, we outline a pragmatic perspective on the issue of `real' understanding and intentionality in LLMs. Understanding and intentionality pertain to unobservable mental states we attribute to other humans because they have pragmatic value: they allow us to abstract away from complex underlying mechanics and predict behaviour effectively. We reflect on the circumstances under which it would make sense for humans to similarly attribute mental states to LLMs, thereby outlining a pragmatic philosophical context for LLMs as an increasingly prominent technology in society.

研究动机与目标

• 批判性地重新评估对LLM能力的三种主流批判：即它们仅预测下一个词、缺乏功能性语言能力，以及与人类语言学习无关。
• 论证当前的实证与理论证据要求我们在评估LLM的语言与认知能力时采取更细致的视角。
• 基于功能效用而非形而上学主张，提出一种实用主义哲学框架，用于将理解、意向性等心理状态归因于LLM。
• 为LLM在科学、教育与社会中的角色提供一种更现实、基于实证、且具哲学深度的视角。

提出的方法

• 通过实证研究发现Transformer模型中句法与语义表征的成果，分析对LLM的反复批判。
• 借鉴认知科学与心灵哲学中的理论工作，特别是丹内特（Dennett）与罗蒂（Rorty）的观点，将心理状态归因视为一种实用工具。
• 区分模型行为的生物物理解释与理解的实用归因，表明二者作用于不同分析层次。
• 评估LLM在需要分层解析、语义推理与功能性语言使用任务中的表现，证明其能力超越简单下一个词预测。
• 提出是否将理解归因于LLM，应以预测与交互中的实用效用为指导，而非基于关于意识的形而上学主张。
• 通过LLM行为的案例研究（例如问答、代码生成）说明，实用建模如何支持有效的人机协作。

实验结果

研究问题

• RQ1 LLM是否真的仅预测下一个词，还是它们也表征了更深层的句法与语义结构？
• RQ2 LLM能否展示功能性语言能力，还是仅局限于形式语言模式？
• RQ3 鉴于其分布学习机制，LLM对理解人类语言习得有何相关性？
• RQ4 在何种条件下，即使缺乏主观体验，将理解与意向性归因于LLM在实用上也是合理的？
• RQ5 实用主义哲学框架如何与科学上打开LLM‘黑箱’的努力共存，而不混淆解释层次？

主要发现

• LLM在预训练过程中学习到分层句法与语义表征，超越了简单的下一个词预测，从而能够进行复杂推理与文本生成。
• 实证证据表明，LLM能够解析复杂句法结构并表征语义关系，表明其内部表征超越了统计共现。
• 功能性语言能力（如上下文敏感响应与语用推理）可在LLM中得到体现，挑战了其仅掌握形式语法规则的论断。
• LLM是当前最优秀的语言分布模型，为理解人类语言学习过程（尤其是分布语义学）提供了洞见。
• 将理解与意向性归因于LLM的实用主义主张，并非基于形而上学声明，而是基于此类归因在预测与交互中提供的实际价值。
• 对模型行为的生物物理解释与实用主义心理状态归因之间的区分，使得科学与实践方法可互补共存，而无矛盾。