[论文解读] Mitigating Gender Bias in Machine Translation through Adversarial Learning

Eve Fleisig, Christiane Fellbaum|arXiv (Cornell University)|Mar 20, 2022

Hate Speech and Cyberbullying Detection被引用 4

一句话总结

本文提出了一种对抗性学习框架，通过在大规模语言模型微调过程中训练性别判别器，以减轻神经机器翻译中的性别偏见。该方法在对男性和女性实体翻译的性别偏见差异上实现了86–91%的降低，同时对整体翻译质量的影响极小，采用两种性别探测方法：性别方向和代词使用。

ABSTRACT

Machine translation and other NLP systems often contain significant biases regarding sensitive attributes, such as gender or race, that worsen system performance and perpetuate harmful stereotypes. Recent preliminary research suggests that adversarial learning can be used as part of a model-agnostic bias mitigation method that requires no data modifications. However, adapting this strategy for machine translation and other modern NLP domains requires (1) restructuring training objectives in the context of fine-tuning pretrained large language models and (2) developing measures for gender or other protected variables for tasks in which these attributes must be deduced from the data itself. We present an adversarial learning framework that addresses these challenges to mitigate gender bias in seq2seq machine translation. Our framework improves the disparity in translation quality for sentences with male vs. female entities by 86% for English-German translation and 91% for English-French translation, with minimal effect on translation quality. The results suggest that adversarial learning is a promising technique for mitigating gender bias in machine translation.

研究动机与目标

• 解决神经机器翻译系统中再现有害社会刻板印象的性别偏见问题。
• 开发一种与模型无关、无需数据的偏见缓解方法，适用于微调后的大型语言模型。
• 在性别未预先标注的自然语言处理任务中，定义并测量性别作为受保护变量。
• 评估对抗性学习在减少翻译中表现性偏见和分配性偏见方面的有效性。
• 确保偏见缓解不会降低整体翻译性能。

提出的方法

• 提出两种推断性别作为受保护变量的方法：性别方向法，利用词嵌入中的性别子空间；代词使用法，追踪性别代词的使用模式。
• 在微调过程中，训练一个对抗性判别器，从模型的隐藏表示中预测性别。
• 优化主翻译模型，使其最小化判别器预测性别的能力，从而促使生成性别不变的表示。
• 将该框架应用于基于T5的序列到序列模型在英德和英法翻译任务中的微调。
• 使用WinoMT数据集评估对刻板印象和反刻板印象职业术语的性别偏见。
• 采用F1分数差异和准确率指标来量化偏见减少程度和翻译质量。

实验结果

研究问题

• RQ1 当性别未预先标注时，如何有效定义并测量大型语言模型中性别作为受保护变量？
• RQ2 对抗性学习能否成功适配到现代自然语言处理系统中的预训练/微调范式？
• RQ3 对抗性训练在不降低翻译质量的前提下，能在多大程度上减少机器翻译中的性别偏见？
• RQ4 不同性别探测方法（性别方向法 vs. 代词使用法）在偏见缓解效果上如何比较？
• RQ5 通过对抗性训练进行偏见缓解是否能提升泛化能力或翻译鲁棒性？

主要发现

• 性别方向法在英德翻译中将性别偏见差异降低了86%，在英法翻译中降低了91%。
• 代词使用法降低了男性和女性实体翻译之间的F1分数差距，平均偏见差异减少了75%。
• 在大多数情况下，翻译准确率略有提升，表明偏见缓解可能带来潜在的泛化增益。
• 对抗性训练后，模型在翻译中对实体性别的保留准确率更高。
• 该方法保持了较高的翻译质量，BLEU等标准指标未出现显著下降。
• 两种性别探测方法均有效降低了分配性偏见和表现性偏见，其中性别方向法效果更强但一致性稍弱。