[论文解读] Mitigating Gender Bias in Natural Language Processing: Literature Review

Tony Sun, Andrew Gaut+8 more|arXiv (Cornell University)|Jun 21, 2019

Hate Speech and Cyberbullying Detection参考文献 56被引用 41

一句话总结

本文综述识别与缓解 NLP 中的性别偏见，编目了四种表征偏见形式，回顾缓解方法，并讨论它们的优点、缺点及未来研究方向。

ABSTRACT

As Natural Language Processing (NLP) and Machine Learning (ML) tools rise in popularity, it becomes increasingly vital to recognize the role they play in shaping societal biases and stereotypes. Although NLP models have shown success in modeling various applications, they propagate and may even amplify gender bias found in text corpora. While the study of bias in artificial intelligence is not new, methods to mitigate gender bias in NLP are relatively nascent. In this paper, we review contemporary studies on recognizing and mitigating gender bias in NLP. We discuss gender bias based on four forms of representation bias and analyze methods recognizing gender bias. Furthermore, we discuss the advantages and drawbacks of existing gender debiasing methods. Finally, we discuss future studies for recognizing and mitigating gender bias in NLP.

研究动机与目标

• 激励研究 NLP 中的性别偏见及其社会影响。
• 识别并分类 NLP 中的表征偏见形式。
• 调查识别 NLP 系统中性别偏见的方法。
• 评估现有性别去偏见技术的优点与缺点。
• 提出在识别与缓解 NLP 中性别偏见方面的未来研究方向。

提出的方法

• 进行当代 NLP 偏见研究的文献综述。
• 将表征偏见分为四种形式。
• 分析识别与缓解性别偏见的方法。
• 讨论去偏见方法的优点与缺点。
• 提出在偏见识别与缓解方面的未来研究方向。

实验结果

研究问题

• RQ1 NLP 中的四种表征偏见形式是什么？
• RQ2 有哪些方法可以识别 NLP 模型及输出中的性别偏见？
• RQ3 现有性别去偏见技术的优点和缺点是什么？
• RQ4 在识别与缓解 NLP 中的性别偏见方面，哪些未来研究方向值得关注？

主要发现

• 识别并概述 NLP 中的四种表征偏见形式。
• 回顾用于识别 NLP 系统中性别偏见的方法。
• 分析当前性别去偏见方法的优点与缺点。
• 讨论偏见缓解的局限性与未来研究的潜在方向。