[论文解读] Can language models handle recursively nested grammatical structures? A case study on comparing models and humans

Andrew K. Lampinen|arXiv (Cornell University)|Oct 27, 2022

Topic Modeling被引用 11

一句话总结

本文挑战了先前关于大语言模型（LLMs）无法处理递归嵌套语法结构的论断，表明在采用公平、类人条件并辅以简单提示的情况下，LLMs 在相同任务上的表现不仅超过人类，还能推广到更深的嵌套层级。研究揭示，先前的比较存在偏差，原因在于对模型采用零样本评估，而对人类则使用了训练过的、有指导的人类参与者。

ABSTRACT

How should we compare the capabilities of language models (LMs) and humans? I draw inspiration from comparative psychology to highlight some challenges. In particular, I consider a case study: processing of recursively nested grammatical structures. Prior work suggests that LMs cannot handle these structures as reliably as humans can. However, the humans were provided with instructions and training, while the LMs were evaluated zero-shot. I therefore match the evaluation more closely. Providing large LMs with a simple prompt -- substantially less content than the human training -- allows the LMs to consistently outperform the human results, and even to extrapolate to more deeply nested conditions than were tested with humans. Further, reanalyzing the prior human data suggests that the humans may not perform above chance at the difficult structures initially. Thus, large LMs may indeed process recursively nested grammatical structures as reliably as humans. This case study highlights how discrepancies in the evaluation can confound comparisons of language models and humans. I therefore reflect on the broader challenge of comparing human and model capabilities, and highlight an important difference between evaluating cognitive models and foundation models.

研究动机与目标

• 重新评估语言模型在递归嵌套语法结构任务上表现不如人类的论断。
• 解决先前研究中人类与模型评估方法上的差异问题。
• 检验提示工程是否能显著提升LLM在复杂句法依赖关系上的表现。
• 强调在比较人类与模型能力时，采用公平、可比评估协议的重要性。
• 倡导基于实际表现而非对人类先天能力的假设，开展更严格、数据驱动的人机对比研究。

提出的方法

• 对大语言模型（如GPT-2 XL）在中心嵌套句法结构中subject-verb agreement依赖关系任务上进行新的零样本评估。
• 通过提供更简单的嵌套结构示例进行 few-shot 提示，以提升模型表现。
• 重新分析Lakretz等人（2022）先前的人类数据，评估人类在困难条件下的表现是否真正高于随机水平。
• 采用与先前研究相同的任务框架，但调整评估条件，使其更贴近人类实验范式。
• 在不断增加的嵌套深度上评估模型表现，包括人类未测试过的更深层级。
• 应用推理追踪提示和指令微调原则，以改善模型行为，使其更符合类人任务理解。

实验结果

研究问题

• RQ1 大语言模型是否真的无法处理递归嵌套语法结构，还是评估方法存在偏差？
• RQ2 简单提示是否能显著提升LLM在复杂句法依赖关系上的表现？
• RQ3 人类在递归语法任务上的表现是否在深嵌套条件下也可靠地高于随机水平？
• RQ4 评估范式上的差异（如训练、指令和动机）在多大程度上混淆了人类与模型的对比？
• RQ5 我们如何设计更公平的评估协议，以实现人类与模型能力的合理比较？

主要发现

• 当通过提示提供少量简单示例时，大语言模型在递归嵌套主谓一致任务上始终优于人类参与者。
• 模型能够推广到人类未测试过的更深嵌套层级（例如三层或以上），展现出对训练分布之外情况的外推能力。
• 对先前人类数据的重新分析表明，人类在最困难条件下的表现并未显著高于随机水平，从而挑战了人类在该领域具有优势的假设。
• 先前研究中模型与人类之间的表现差距，主要源于评估差异：人类接受了大量训练和指导，而模型则处于零样本评估状态。
• 通过极简上下文（如少量示例）进行提示，显著提升了模型的准确率，表明无需微调即可大幅增强任务理解能力。
• 本研究强调，评估的方法公平性至关重要：当条件一致时，LLMs 在句法处理任务上的表现可与人类持平甚至超越。