[论文解读] Probing Neural Network Comprehension of Natural Language Arguments

Timothy Niven, Hung‐Yu Kao|arXiv (Cornell University)|Jul 17, 2019

Topic Modeling参考文献 27被引用 34

一句话总结

本文表明 BERT 在 ARCT 上的强大表现很大程度上是由于利用了虚假的线索，并引入了一个对手数据集，使模型的表现呈现随机性，主张采用更健全的评估标准。

ABSTRACT

We are surprised to find that BERT's peak performance of 77% on the Argument Reasoning Comprehension Task reaches just three points below the average untrained human baseline. However, we show that this result is entirely accounted for by exploitation of spurious statistical cues in the dataset. We analyze the nature of these cues and demonstrate that a range of models all exploit them. This analysis informs the construction of an adversarial dataset on which all models achieve random accuracy. Our adversarial dataset provides a more robust assessment of argument comprehension and should be adopted as the standard in future work.

研究动机与目标

• 评估 BERT 及其他模型在 ARCT 中是否真正理解自然语言论证，超越数据集伪影。
• 识别并量化模型在 ARCT 中利用的虚假统计线索。
• 开发对手数据集以提供鲁棒的评估和未来工作的基线。

提出的方法

• 在 ARCT 上重复并扩展基线模型（BoV、BiLSTM、GIST、Botschen 等）及 BERT。
• 探查模型决策，识别对证据（warrants）中词汇线索的依赖（如单词 'not'）。
• 定义线索度量（可生产性 production，覆盖率 coverage）以量化线索在整个数据中的有用性。
• 通过否定论点和翻转标签来镜像线索分布，创建一个对手 ARCT 数据集。
• 在对手数据上评估模型，以衡量超越线索的真正论证理解。

实验结果

研究问题

• RQ1 最先进的模型，特别是 BERT，是否在 ARCT 中依赖虚假线索而非真正的论证理解？
• RQ2 对手数据转换是否可以消除由线索驱动的表现并揭示真实推理能力？
• RQ3 在统计线索在标签间平衡或镜像时，不同模型体系结构的表现如何？
• RQ4 在对手数据上训练对 ARCT 上模型鲁棒性有何影响？

主要发现

• BERT 的峰值 77% 准确性在很大程度上是由利用数据集线索导致的，而非真正理解。
• 探查结果显示仅证成理由本身就可达到高达 71% 的准确性，额外的推理/论点线索解释了其余提升。
• 一个对手数据集在标签周围镜像线索分布，降低了 BERT 的表现至随机水平（最大 53%）。
• 在各模型中，原始数据上的表现转为在对手数据上接近随机水平，表明依赖虚假线索。
• 对手训练与评估表明，当前模型尚未实现对强健论证理解。