[论文解读] What If We Simply Swap the Two Text Fragments? A Straightforward yet Effective Way to Test the Robustness of Methods to Confounding Signals in Nature Language Inference Tasks

Haohan Wang, Da Sun+1 more|arXiv (Cornell University)|Sep 7, 2018

Topic Modeling参考文献 33被引用 3

一句话总结

本文提出了一种简单但有效的方法——在NLI任务中交换前提和假设，以测试模型对训练数据中混淆信号的鲁棒性。通过在交换后的测试集上评估模型准确率，作者发现依赖统计模式（例如词分布）的模型无法泛化，而依赖语义理解的模型则保持一致的性能，尤其在蕴含和矛盾对上表现更优。

ABSTRACT

Nature language inference (NLI) task is a predictive task of determining the inference relationship of a pair of natural language sentences. With the increasing popularity of NLI, many state-of-the-art predictive models have been proposed with impressive performances. However, several works have noticed the statistical irregularities in the collected NLI data set that may result in an over-estimated performance of these models and proposed remedies. In this paper, we further investigate the statistical irregularities, what we refer as confounding factors, of the NLI data sets. With the belief that some NLI labels should preserve under swapping operations, we propose a simple yet effective way (swapping the two text fragments) of evaluating the NLI predictive models that naturally mitigate the observed problems. Further, we continue to train the predictive models with our swapping manner and propose to use the deviation of the model's evaluation performances under different percentages of training text fragments to be swapped to describe the robustness of a predictive model. Our evaluation metrics leads to some interesting understandings of recent published NLI methods. Finally, we also apply the swapping operation on NLI models to see the effectiveness of this straightforward method in mitigating the confounding factor problems in training generic sentence embeddings for other NLP transfer tasks.

研究动机与目标

• 研究NLI数据集中混淆信号的影响，特别是假设中词分布偏差的影响，这些偏差使模型能够在缺乏真正语义理解的情况下预测标签。
• 提出一种简单且可解释的合理性检查方法：在测试集中交换前提和假设，以评估模型是依赖语义推理还是表面的统计线索。
• 设计一种训练协议，使用不同比例的交换句子对进行训练，通过性能波动作为混淆因素鲁棒性的代理指标。
• 评估使用交换数据训练的句子嵌入在下游NLP迁移任务（如文本相似度、自然语言推理）中是否具有更好的泛化能力，从而减轻混淆信号偏差。

提出的方法

• 对测试集应用前提-假设交换，构建压力测试：如果模型真正鲁棒，其在中性对和矛盾对上的准确率应保持稳定，而在蕴含对上应下降。
• 使用命题逻辑来证明预期行为：蕴含（P → H）在交换下不具有对称性，而矛盾（P → ¬H）和中性（P ⊥ H）在交换下是对称的。
• 在包含不同比例（0%至100%）交换句子对的多个训练集上训练NLI模型，以评估模型在数据分布变化下的稳定性。
• 将“偏差”定义为模型在不同交换比例下的性能波动；偏差越低，表明对混淆信号的鲁棒性越高。
• 使用增强交换数据的微调句子嵌入，并在下游NLP迁移任务（如文本相似度、自然语言推理）上进行评估。
• 将基于交换的训练方法应用于多个SOTA NLI模型（如DGA、KIM、ADV），并通过性能偏差指标比较其鲁棒性。

实验结果

研究问题

• RQ1 SOTA NLI模型是否真正理解语义关系，还是仅仅利用了假设中词分布的统计偏差？
• RQ2 前提-假设交换能否作为一种可靠且轻量级的合理性检查，以检测模型是否依赖表面线索而非语义推理？
• RQ3 在包含不同程度交换句子对的数据上训练NLI模型，是否能产生更具鲁棒性的表征，从而在下游任务中更好地泛化？
• RQ4 模型在不同交换比例下的性能偏差在多大程度上与NLI数据中混淆信号的鲁棒性相关？
• RQ5 在训练过程中使用交换是否能提升句子嵌入的质量，从而改善其他NLP任务中的迁移学习性能？

主要发现

• DGA和KIM等模型在不同交换比例下表现出较低的性能偏差，表明其对混淆信号具有强鲁棒性，且可能依赖于语义理解。
• ADV模型表现出更高的偏差，表明其对数据分布变化敏感，可能利用了统计线索，但经进一步分析仍具潜力。
• 使用25%至75%训练对进行交换训练的句子嵌入在下游NLP迁移任务中表现更优，证明了其泛化能力的提升。
• 在交换压力测试中表现不佳的模型——在交换后的蕴含对上准确率显著下降——可能依赖于词汇或分布模式，而非逻辑推理。
• 基于交换的评估揭示，多个SOTA模型在原始测试集上表现良好，但在交换后性能大幅下降，表明其过度拟合于虚假相关性。
• 所提出的偏差度量能有效量化鲁棒性，为模型选择和基准测试提供实用工具，超越传统准确率指标。