[论文解读] An Empirical Survey of the Effectiveness of Debiasing Techniques for Pre-trained Language Models

Nicholas Meade, Elinor Poole-Dayan+1 more|arXiv (Cornell University)|Oct 16, 2021

Topic Modeling被引用 5

一句话总结

本文在 BERT、ALBERT、RoBERTa 和 GPT-2 上对五种去偏技术——CDA、Dropout、INLP、Self-Debias 和 SentenceDebias——进行了实证评估，以衡量其在减少性别、种族和宗教偏见方面的有效性。Self-Debias 表现最为出色，能在所有基准测试中持续提升偏见得分，同时对下游自然语言理解（NLU）任务的负面影响最小，尽管所有技术均导致语言建模性能下降。

ABSTRACT

Recent work has shown pre-trained language models capture social biases from the large amounts of text they are trained on. This has attracted attention to developing techniques that mitigate such biases. In this work, we perform an empirical survey of five recently proposed bias mitigation techniques: Counterfactual Data Augmentation (CDA), Dropout, Iterative Nullspace Projection, Self-Debias, and SentenceDebias. We quantify the effectiveness of each technique using three intrinsic bias benchmarks while also measuring the impact of these techniques on a model's language modeling ability, as well as its performance on downstream NLU tasks. We experimentally find that: (1) Self-Debias is the strongest debiasing technique, obtaining improved scores on all bias benchmarks; (2) Current debiasing techniques perform less consistently when mitigating non-gender biases; And (3) improvements on bias benchmarks such as StereoSet and CrowS-Pairs by using debiasing strategies are often accompanied by a decrease in language modeling ability, making it difficult to determine whether the bias mitigation was effective.

研究动机与目标

• 评估五种近期去偏技术在缓解预训练语言模型中社会偏见方面的有效性。
• 衡量去偏对语言建模能力及下游自然语言理解（NLU）任务性能的影响。
• 探究去偏技术是否能超越性别偏见，泛化至种族和宗教偏见。
• 评估去偏与模型性能退化之间的权衡。

提出的方法

• 本研究评估五种去偏技术：反事实数据增强（CDA）、Dropout、迭代零空间投影（INLP）、Self-Debias 和 SentenceDebias。
• 采用三个内在偏见基准测试：SEAT、StereoSet 和 CrowS-Pairs，用于衡量性别、种族和宗教偏见。
• 通过 WikiText-2 评估语言建模能力，通过 GLUE 基准测试衡量下游 NLU 性能。
• 在 BERT、ALBERT、RoBERTa 和 GPT-2 上对模型进行微调，并应用去偏技术，随后在偏见、语言建模和 NLU 任务上进行评估。
• 结果通过三个随机种子的平均值获得，以确保稳健性和统计可靠性。

实验结果

研究问题

• RQ1 在预训练语言模型中，哪种去偏技术在减少性别、种族和宗教偏见方面最为有效？
• RQ2 去偏如何影响模型在 WikiText-2 上的困惑度所衡量的语言建模能力？
• RQ3 去偏是否会导致下游自然语言理解（NLU）任务性能下降，如 GLUE 基准测试所衡量的？

主要发现

• Self-Debias 实现了最强的偏见减少效果，在所有三个内在偏见基准测试（SEAT、StereoSet 和 CrowS-Pairs）中均提升了得分。
• 去偏技术一致地降低了语言建模能力，所有模型在 WikiText-2 上的困惑度平均增加高达 2.11 个点。
• 尽管语言建模性能下降，但 GLUE 基准测试中的下游 NLU 任务性能基本保持稳定，平均 F1 和准确率得分仅出现轻微退化。
• 当前的去偏技术在缓解非性别偏见（如种族和宗教偏见）方面表现不够一致，各基准测试间的性能差异较大。
• 在 StereoSet 和 CrowS-Pairs 等偏见基准测试中的性能提升，通常伴随着语言建模性能的下降，表明去偏与模型流畅性之间存在权衡。