[論文レビュー] A Survey on Bias and Fairness in Natural Language Processing

Rajas Bansal|arXiv (Cornell University)|Mar 6, 2022

Hate Speech and Cyberbullying Detection被引用数 6

ひとこと要約

本調査は、NLPにおけるバイアスと公平性に関する現在の理解を統合し、データおよびモデルにおけるバイアスの原因を分析し、公平性の定義を形式化し、NLPのサブフィールド全体におけるメトリクスとデバイアス化技術を評価する。本調査では、既存のデバイアス化手法がスケール上でバイアスを完全に除去できないことが明らかになった。WEATのようなメトリクスはバイアスを表面的にしか検出できず、下流のモデルは「デバイアス化された」埋め込みから依然として性別関連性を回復できるためである。

ABSTRACT

As NLP models become more integrated with the everyday lives of people, it becomes important to examine the social effect that the usage of these systems has. While these models understand language and have increased accuracy on difficult downstream tasks, there is evidence that these models amplify gender, racial and cultural stereotypes and lead to a vicious cycle in many settings. In this survey, we analyze the origins of biases, the definitions of fairness, and how different subfields of NLP mitigate bias. We finally discuss how future studies can work towards eradicating pernicious biases from NLP algorithms.

研究の動機と目的

• NLPにおけるバイアスの原因を体系的かつ分析し、ラベルバイアス、選択バイアス、過剰拡大バイアス、および語彙埋め込みからの意味的バイアスを含む。
• デモグラフィックパリティ、機会の平等、結果の平等といった主要な公平性定義を形式化し、それらを比較する。
• 語彙埋め込みおよび下流モデルにおけるバイアスを測定するためのWEATやSEATといった既存のメトリクスを評価する。
• 敵対的学習やデータ拡張を含む、NLPのサブフィールド全体におけるデバイアス化技術を調査する。
• 現在の手法における根本的な限界を特定し、バイアス緩和のためのより強固で一般化可能かつ多分野的アプローチの必要性を提起する。

提案手法

• バイアスの原因を4つのタイプに分類：ラベルバイアス、選択バイアス、過剰拡大バイアス、語彙埋め込みからの意味的バイアス。
• 公平性を3つの形式的基準で定義：デモグラフィックパリティ、機会の平等、結果の平等。それぞれが異なる条件付き独立性の要件を持つ。
• 語彙埋め込みおよびモデル予測におけるバイアスを定量化するために、語彙埋め込み連関テスト（WEAT）と文レベルバイアス評価（SEAT）を採用。
• 敵対的訓練のようなデバイアス化技術をレビュー。生成器が性別に中立な類似関係を学ぶ一方で、識別器が性別を推定しようとするため、生成器がバイアスを低減するよう強制される。
• 性別反転評価（GBET）を適用し、デバイアス化された埋め込みが依然として性別関連性を保持しているかどうかをテスト。
• 現在のメトリクスと手法を批判的に評価し、WEATスコアが低いからといって真のバイアス除去を意味しないと主張。下流のモデルは依然として性別関連性を回復できる。

実験結果

リサーチクエスチョン

• RQ1 NLPデータセットおよびモデルにおけるバイアスの主な原因は何であり、それらはデータ収集および表現の段階でどのように生じるのか？
• RQ2 デモグラフィックパリティ、機会の平等、結果の平等といった異なる公平性の形式的定義は、モデルの挙動と公平性の結果にどのように影響を与えるか？
• RQ3 WEAT や SEAT といった既存のバイアス測定メトリクスは、語彙埋め込みおよび下流予測におけるバイアスの存在をどの程度正確に反映しているか？
• RQ4 なぜ現在のデバイアス化技術は、メトリクススコアを低下させても、強固で一般化可能な公平性を達成できないのか？
• RQ5 人種的、宗教的、階級に基づくバイアスといった非性別バイアスをNLPシステムから効果的に検出および除去するためには、どのような新しい方法論的および多分野的アプローチが必要か？

主な発見

• 歴史的テキストコーパスから学習された語彙埋め込みは、社会的ステレオタイプを反映・強化しており、たとえばコンピュータサイエンスを男性と関連づけ、看護を女性と関連づけるといった、時間的経過に伴う社会運動との相関が示されている。
• WEATスコアを低下させはするが、現在のデバイアス化手法は、意味的レベルでの性別バイアスを完全に除去できない。下流の分類器は依然としてデバイアス化されたベクトルから性別関連性を回復できる。
• デバイアス化後でさえ、「受付係」や「理容師」のような性別に中立的な語が、性的にステレオタイプに関連する語とクラスタリングされ続けている。これは、意味的バイアスが依然として残っていることを示している。
• 敵対的学習手法は、生成器が性別を露呈しないように訓練することでバイアス低減の可能性を示しているが、すべての下流タスクで公平性を保証するものではない。
• WEAT や SEAT といったメトリクスはバイアス検出に有用であるが、真の公平性の指標としては不十分である。低スコアであっても、暗黙のバイアスが残っている可能性がある。
• 人種的、宗教的、階級に基づくバイアスに関する研究が極めて不足している。これはデータの不足と方法論的課題に起因し、現在のNLP公平性研究における主要なギャップを示している。