[论文解读] Towards Debiasing Sentence Representations

Paul Pu Liang, Irene Li+4 more|arXiv (Cornell University)|Jul 16, 2020

Topic Modeling参考文献 48被引用 7

一句话总结

该论文提出 Sent-Debias，一种用于上下文嵌入句子表示（如 BERT 和 ELMo）的后训练去偏方法，通过生成多样化的句子模板来估计并移除偏见子空间。该方法在保持下游自然语言处理任务（如情感分析和自然语言理解）性能的同时，有效降低了性别和宗教偏见。

ABSTRACT

As natural language processing methods are increasingly deployed in real-world scenarios such as healthcare, legal systems, and social science, it becomes necessary to recognize the role they potentially play in shaping social biases and stereotypes. Previous work has revealed the presence of social biases in widely used word embeddings involving gender, race, religion, and other social constructs. While some methods were proposed to debias these word-level embeddings, there is a need to perform debiasing at the sentence-level given the recent shift towards new contextualized sentence representations such as ELMo and BERT. In this paper, we investigate the presence of social biases in sentence-level representations and propose a new method, Sent-Debias, to reduce these biases. We show that Sent-Debias is effective in removing biases, and at the same time, preserves performance on sentence-level downstream tasks such as sentiment analysis, linguistic acceptability, and natural language understanding. We hope that our work will inspire future research on characterizing and removing social biases from widely adopted sentence representations for fairer NLP.

研究动机与目标

• 研究最先进的句子表示（如 BERT 和 ELMo）中是否存在社会偏见。
• 解决对大型微调句子编码器进行去偏的挑战，这些模型在计算上无法重新训练。
• 开发一种后训练去偏方法，在降低句子级表示中的偏见的同时，保持下游任务的性能。
• 证明使用多样化句子模板对准确估计句子表示中的偏见子空间具有重要意义。

提出的方法

• 从自然文本语料库中生成多样化的句子模板，以上下文化地表示偏见属性词（例如 'man'、'woman'、'Muslim'、'Christian'）。
• 利用这些上下文化的句子，通过线性代数投影方法估计句子表示的偏见子空间。
• 应用 Hard-Debias 方法的改进版本，从句子嵌入中移除估计出的偏见子空间。
• 作为后处理步骤，在不重新训练的前提下对预训练句子编码器进行去偏。
• 仅对中性句子应用去偏，避免对固有属性特异性词语（如 'grandmother'）进行去偏。
• 在模型微调后重新估计偏见子空间并重新应用去偏，以维持有效性。

实验结果

研究问题

• RQ1 预训练的句子表示（如 BERT 和 ELMo）在多大程度上编码了性别和宗教等社会偏见？
• RQ2 后训练去偏技术是否能有效降低句子表示中的偏见，而无需重新训练？
• RQ3 句子模板的多样性和覆盖范围如何影响偏见子空间估计的准确性？
• RQ4 对句子表示进行去偏是否会降低下游自然语言处理任务（如情感分析和自然语言理解）的性能？
• RQ5 所提出的方法是否能在不同句子编码器和下游任务之间实现泛化？

主要发现

• Sent-Debias 在不降低下游任务性能的前提下，成功减少了 BERT 和 ELMo 中的性别和宗教偏见。
• 在 SST-2 情感分析任务中，BERT 的准确率仅从 92.7% 下降到 89.1%，表明性能损失极小。
• 在 CoLA 可接受性任务中，ELMo 的性能从 39.1% 下降到 37.1%，显示出小幅但可接受的下降。
• 该方法在 QNLI 自然语言推理任务中保持了性能，BERT 在去偏后仍保持 91.3% 的准确率。
• 与有限或非多样化的模板相比，使用大规模且多样化的句子模板显著提高了偏见子空间估计的准确性。
• 即使在模型微调后，去偏依然有效，但需重新估计偏见子空间以维持性能。