[論文レビュー] Mitigating Gender Bias in Natural Language Processing: Literature Review

Tony Sun, Andrew Gaut+8 more|arXiv (Cornell University)|Jun 21, 2019

Hate Speech and Cyberbullying Detection参考文献 56被引用数 41

ひとこと要約

この論文は、 NLPにおける性別バイアスの認識と緩和を概観し、表現バイアスの4つの形を整理し、デバイアス手法をレビューし、それらの利点・欠点と今後の研究方向について議論します。

ABSTRACT

As Natural Language Processing (NLP) and Machine Learning (ML) tools rise in popularity, it becomes increasingly vital to recognize the role they play in shaping societal biases and stereotypes. Although NLP models have shown success in modeling various applications, they propagate and may even amplify gender bias found in text corpora. While the study of bias in artificial intelligence is not new, methods to mitigate gender bias in NLP are relatively nascent. In this paper, we review contemporary studies on recognizing and mitigating gender bias in NLP. We discuss gender bias based on four forms of representation bias and analyze methods recognizing gender bias. Furthermore, we discuss the advantages and drawbacks of existing gender debiasing methods. Finally, we discuss future studies for recognizing and mitigating gender bias in NLP.

研究の動機と目的

• NLPにおける性別バイアスの研究と社会的影響を動機づける。
• NLPにおける表現バイアスの形を特定し分類する。
• NLPシステムにおける性別バイアスを認識する方法を調査する。
• 既存の性別デバイアス手法の利点と欠点を評価する。
• NLPにおける性別バイアスを認識し緩和する今後の研究方向を提案する。

提案手法

• 最新のNLPバイアス研究の文献調査を実施する。
• 表現バイアスを4つの形に分類する。
• 性別バイアスを認識し緩和する方法を分析する。
• デバイアス手法の利点と欠点を検討する。
• バイアス認識と緩和における今後の研究方向を提案する。

実験結果

リサーチクエスチョン

• RQ1 NLPにおける表現バイアスの4つの形とは？
• RQ2 NLPモデルと出力における性別バイアスを認識するにはどんな方法があるか？
• RQ3 既存の性別デバイアス技術の利点と欠点は何か？
• RQ4 NLPにおける性別バイアスを認識し緩和するための今後の研究方向はどこが有望か？

主な発見

• NLPにおける表現バイアスの4つの形を特定し概説する。
• NLPシステムにおける性別バイアスを認識する方法をレビューする。
• 現在の性別デバイアスアプローチの長所と短所を分析する。
• バイアス緩和における制限と今後の研究の潜在的方向性を論じる。