[论文解读] Simple but effective techniques to reduce biases.

Rabeeh Karimi Mahabadi, James H. Henderson|arXiv (Cornell University)|Sep 13, 2019

Topic Modeling被引用 23

一句话总结

本文提出一种简单、与模型无关的方法，通过训练一个轻量级仅关注偏见的模型来减少自然语言理解（NLU）模型中的数据集偏见。该模型可识别有偏见的样本，并在训练过程中调整损失，以降低这些样本的权重。该方法在分布外数据集上提升了模型鲁棒性，在 FEVER 对称集、HANS 和 SNLI 困难集上分别取得了 9.76、5.45 和 4.78 分的性能提升。

ABSTRACT

There have been several studies recently showing that strong natural language understanding (NLU) models are prone to relying on unwanted dataset biases without learning the underlying task, resulting in models which fail to generalize to out-of-domain datasets, and are likely to perform poorly in real-world scenarios. We propose several learning strategies to train neural models which are more robust to such biases and transfer better to out-of-domain datasets. We introduce an additional lightweight bias-only model which learns dataset biases and uses its prediction to adjust the loss of the base model to reduce the biases. In other words, our methods down-weight the importance of the biased examples, and focus training on hard examples, i.e. examples that cannot be correctly classified by only relying on biases. Our approaches are model agnostic and simple to implement. We experiment on large-scale natural language inference and fact verification datasets and their out-of-domain datasets and show that our debiased models significantly improve the robustness in all settings, including gaining 9.76 points on the FEVER symmetric evaluation dataset, 5.45 on the HANS dataset and 4.78 points on the SNLI hard set. These datasets are specifically designed to assess the robustness of models in the out-of-domain setting where typical biases in the training data do not exist in the evaluation set.

研究动机与目标

• 解决 NLU 模型依赖数据集中虚假偏见而非学习可泛化的任务模式的问题。
• 提升模型在训练数据偏见不成立的分布外数据集上的泛化能力。
• 开发一种简单、与模型无关的方法，在无需修改网络架构的前提下增强模型鲁棒性。
• 聚焦于仅靠偏见无法解决的困难样本，提升模型的真实理解能力。
• 减少大规模 NLU 基准测试中对表面统计线索的过度依赖。

提出的方法

• 训练一个轻量级仅关注偏见的模型，仅根据数据集特定的偏见来预测标签。
• 利用偏见模型的预测结果调整主模型的损失，降低有偏见样本的贡献。
• 对偏见模型正确预测的样本降低损失权重，使模型更关注困难样本。
• 该方法与模型无关，可应用于任何神经网络 NLU 模型，且实现开销极小。
• 该方法促使主模型从需要真正理解的样本中学习，而非依赖模式匹配。
• 训练过程联合优化主模型与偏见模型，其中偏见模型起到正则化作用。

实验结果

研究问题

• RQ1 轻量级仅关注偏见的模型能否有效识别并缓解 NLU 模型中的数据集偏见？
• RQ2 降低有偏见样本的权重是否能提升模型在分布外评估中的泛化能力？
• RQ3 聚焦于仅靠偏见无法分类的困难样本在多大程度上能提升模型的鲁棒性？
• RQ4 该方法在具有已知偏见问题的多样化 NLU 基准测试中效果如何？
• RQ5 该方法是否可普遍应用于不同模型架构而无需修改网络结构？

主要发现

• 去偏后的模型在 FEVER 对称评估集上取得了 9.76 分的性能提升，表明鲁棒性显著增强。
• 在 HANS 基准测试中观察到 5.45 分的提升，证明其在分布外对抗性样本上的性能改善。
• 在 SNLI 困难集上实现了 4.78 分的改进，证实其在非平凡、抗偏见样本上的学习能力增强。
• 该技术显著提升了所有测试的分布外数据集上的泛化能力，即使评估数据中不存在偏见。
• 由于其与模型无关的特性，该方法在不同 NLU 任务和模型架构上均表现有效。
• 轻量级偏见模型成功识别出虚假模式，实现了有效的损失调整，且未损害模型性能。