[论文解读] Can BERT Reason? Logically Equivalent Probes for Evaluating the Inference Capabilities of Language Models.

Pei Zhou, Rahul Khanna+4 more|arXiv (Cornell University)|May 2, 2020

Topic Modeling参考文献 16被引用 7

一句话总结

本文提出了一套系统化的探测框架，使用60组共14,400个在逻辑上等价但句法多样的探测样本，以评估预训练语言模型（PTLMs）的推理能力与鲁棒性。尽管在常识基准上表现强劲，PTLMs在这些探测样本上的表现仍不优于随机猜测，揭示了其严重依赖表面偏见而非真正推理的缺陷。

ABSTRACT

Pre-trained language models (PTLM) have greatly improved performance on commonsense inference benchmarks, however, it remains unclear whether they share a human's ability to consistently make correct inferences under perturbations. Prior studies of PTLMs have found inference deficits, but have failed to provide a systematic means of understanding whether these deficits are due to low inference abilities or poor inference robustness. In this work, we address this gap by developing a procedure that allows for the systematized probing of both PTLMs' inference abilities and robustness. Our procedure centers around the methodical creation of logically-equivalent, but syntactically-different sets of probes, of which we create a corpus of 14,400 probes coming from 60 logically-equivalent sets that can be used to probe PTLMs in three task settings. We find that despite the recent success of large PTLMs on commonsense benchmarks, their performances on our probes are no better than random guessing (even with fine-tuning) and are heavily dependent on biases--the poor overall performance, unfortunately, inhibits us from studying robustness. We hope our approach and initial probe set will assist future work in improving PTLMs' inference abilities, while also providing a probing set to test robustness under several linguistic variations--code and data will be released.

研究动机与目标

• 系统评估预训练语言模型（PTLMs）是否执行一致的推理，还是仅利用语言偏见。
• 解决当前理解中的空白：推理失败是源于推理能力低下，还是对句法变化的鲁棒性不足。
• 开发一种可复现的探测框架，通过使用逻辑等价但句法多样的探测样本，将推理能力与鲁棒性分离开来。
• 提供一个基准数据集和代码，以支持未来研究提升PTLMs的真实推理能力。

提出的方法

• 作者构建了60组逻辑等价的探测样本集，每组包含多个句法上不同的变体，用于在结构变化下测试推理能力。
• 通过系统性地改变词序、句法结构和词汇选择，同时保持逻辑等价性，共生成14,400个探测样本。
• 在三种任务设置下评估探测样本，以在受控的句法扰动下评估PTLMs在推理任务中的表现。
• 研究使用零样本和微调后的PTLMs（包括BERT）来测试不同设置下的性能。
• 探测框架通过确保每组探测样本的所有变体具有相同的逻辑真值，从而隔离推理能力。
• 该方法能够将因推理导致的表现与因数据集偏见或表层线索导致的表现分离开来。

实验结果

研究问题

• RQ1 预训练语言模型是否能在句法多变但逻辑等价的表述中保持一致的推理表现？
• RQ2 PTLMs在推理任务中在多大程度上依赖表面语言线索而非逻辑推理？
• RQ3 即使经过微调，PTLMs在逻辑等价探测样本上的表现与随机猜测相比如何？
• RQ4 当整体推理性能接近随机时，能否有意义地评估对句法变化的鲁棒性？
• RQ5 数据集偏见在多大程度上掩盖了PTLMs的真实推理能力？

主要发现

• 尽管在标准常识基准上表现优异，BERT及其他大型PTLMs在所提出的逻辑等价探测样本集上的表现仍不优于随机猜测。
• 即使经过微调，模型表现仍接近随机，表明其缺乏一致的推理能力。
• 模型严重依赖语言偏见，如词序或词汇选择，而非逻辑结构。
• 由于整体表现极差，难以可靠评估鲁棒性，因为模型在鲁棒性可被有意义评估之前已持续失败。
• 探测样本揭示当前PTLMs无法在句法变化中实现逻辑泛化，从而削弱了其具备真正推理能力的说法。