[論文レビュー] Towards an Enhanced Understanding of Bias in Pre-trained Neural Language Models: A Survey with Special Emphasis on Affective Bias

K. Anoop, Manjary P. Gangan+2 more|arXiv (Cornell University)|Apr 21, 2022

Topic Modeling被引用数 4

ひとこと要約

本調査は、感情や感情表現に関連する感情的バイアス（感情的バイアス）に特に注目し、大規模事前学習言語モデルにおけるバイアスの包括的分析を提供する。バイアスの発生源、測定手法、緩和技術をレビューし、専用コーパスを用いた感情的バイアスの評価を通じて、NLPシステムにおける公平性を高めるための批判的フレームワークを提示する。特に感情計算応用分野において有効である。

ABSTRACT

The remarkable progress in Natural Language Processing (NLP) brought about by deep learning, particularly with the recent advent of large pre-trained neural language models, is brought into scrutiny as several studies began to discuss and report potential biases in NLP applications. Bias in NLP is found to originate from latent historical biases encoded by humans into textual data which gets perpetuated or even amplified by NLP algorithm. We present a survey to comprehend bias in large pre-trained language models, analyze the stages at which they occur in these models, and various ways in which these biases could be quantified and mitigated. Considering wide applicability of textual affective computing based downstream tasks in real-world systems such as business, healthcare, education, etc., we give a special emphasis on investigating bias in the context of affect (emotion) i.e., Affective Bias, in large pre-trained language models. We present a summary of various bias evaluation corpora that help to aid future research and discuss challenges in the research on bias in pre-trained language models. We believe that our attempt to draw a comprehensive view of bias in pre-trained language models, and especially the exploration of affective bias will be highly beneficial to researchers interested in this evolving field.

研究の動機と目的

• 大規模事前学習ニューラル言語モデルにおけるバイアスについて、体系的な理解を提供すること、特に感情的バイアスに焦点を当てる。
• バイアスが発生するNLPパイプラインの段階を特定すること、特に事前学習段階とファインチューニング段階を含む。
• 既存のバイアス評価コーパスを評価し、それらがNLPシステムにおける感情的バイアスを測定するのに適しているかを検討すること。
• バイアスの定量化、緩和、公平性とモデル性能のトレードオフに関する課題を強調すること。
• 社会学、心理学、ソフトウェア工学を統合する多様な視点を提唱し、バイアスをより包括的に解決するためのアプローチを推進すること。

提案手法

• バイアスを記述的バイアス（例：性別に起因する職業の関連付け）とスタイル的バイアス（例：方言に基づく格差）に分類する。
• 表現バイアスを測定するための計算的手法、例えば単語埋め込み連関テスト（WEAT）や文エンコーダー連関テスト（SEAT）をレビューする。
• モデルライフサイクル全体を通じたバイアスの伝播を分析し、事前学習データ、事前学習アルゴリズム、ファインチューニングプロセスの違いを区別する。
• 低リソース言語や語形変化が複雑な言語（例：インド諸語のマラヤーラム語）における言語的多様性を検討し、IndicBERTを用いた分析を含む。
• 単体テストや動作テストなどのソフトウェア工学的手法を、バイアス評価パイプラインに統合する提案を行う。
• 公に利用可能なデータセットやコーパスを調査し、感情的バイアスや交差的アイデンティティに特化したものを含む。

実験結果

リサーチクエスチョン

• RQ1 感情的バイアス（例：ステレオタイプな感情的関連付け）は、事前学習言語モデルにどのように現れるのか？
• RQ2 事前学習言語モデルの開発ライフサイクルにおいて、バイアスの主な発生源と段階は何か？
• RQ3 既存の評価フレームワークやコーパスを用いて、感情的バイアスをどのように定量化・測定できるか？
• RQ4 全体的なモデルバイアスに寄与する事前学習段階とファインチューニング段階の寄与を区別する主な課題は何か？
• RQ5 心理学、社会学、ソフトウェア工学からの多様な視点を統合することで、NLPにおけるバイアス検出と緩和をどのように改善できるか？

主な発見

• 感情的バイアスは顕著なバイアスの形態であるが、まだ十分に研究が進んでいない。例として、「怒った黒人女性」といった有害な感情的ステレオタイプが挙げられる。
• GPT-3などの事前学習モデルは、訓練データに起因する差別的生成（例：ムスリムを暴力と関連付ける）を示しており、訓練データに深く根ざしたバイアスが存在することを示している。
• バイアスは、大規模コーパスにおける歪んだ分布のため、事前学習段階で強化され、ファインチューニング段階でさらに固定化される傾向がある。
• 交差的バイアス（例：ムスリム女性、黒人女性）を評価するためのコーパスは稀であるが、複雑なバイアスパターンを測定する上で不可欠である。
• 緩和戦略はしばしば性能の低下を伴い、公平性と精度のバランス最適化の必要性を浮き彫りにしている。
• インプリシット連関テストやソフトウェアテスト手法を含む多様な視点からの統合的アプローチは、スケーラブルかつ体系的なバイアス評価のための有望な道筋を示している。