[論文レビュー] Trustworthy Social Bias Measurement

Rishi Bommasani, Percy Liang|arXiv (Cornell University)|Dec 20, 2022

Hate Speech and Cyberbullying Detection被引用数 5

ひとこと要約

本稿では、社会科学からの測定モデリングを基盤として、NLPにおける社会的バイアスを信頼できる枠組みで測定する手法を提案する。DivDistと呼ばれる汎用的なバイアス測定フレームワークを導入し、NLPのさまざまな設定や複数のグループ間比較においても整合性を保証する。さらに、8基準の厳密なテストプロトコルを用いて測定値の妥当性を検証し、従来の手法よりも優れた実証的妥当性を示した。特に、現実の雇用動向との相関関係や、GPT-2におけるバイアスの強化の検出において顕著な成果を上げた。

ABSTRACT

How do we design measures of social bias that we trust? While prior work has introduced several measures, no measure has gained widespread trust: instead, mounting evidence argues we should distrust these measures. In this work, we design bias measures that warrant trust based on the cross-disciplinary theory of measurement modeling. To combat the frequently fuzzy treatment of social bias in NLP, we explicitly define social bias, grounded in principles drawn from social science research. We operationalize our definition by proposing a general bias measurement framework DivDist, which we use to instantiate 5 concrete bias measures. To validate our measures, we propose a rigorous testing protocol with 8 testing criteria (e.g. predictive validity: do measures predict biases in US employment?). Through our testing, we demonstrate considerable evidence to trust our measures, showing they overcome conceptual, technical, and empirical deficiencies present in prior measures.

研究の動機と目的

• 既存のNLPバイアス測定手法に内在する概念的・技術的・実証的欠陥により、信頼性が欠けている問題に対処すること。
• 社会科学の原則を用いて社会的バイアスを明示的に定義し、曖昧または一貫性のない定義を超えること。
• テキスト、埋め込み表現、文脈的表現のあらゆるNLP表現に適用可能な、汎用的で整合性があり、複数グループ比較に対応できるバイアス測定フレームワーク（DivDist）を設計すること。
• 測定モデリング理論に基づいた、測定モデリングに基づく、厳密で標準化されたテストプロトコルを確立すること。
• 現在のバイアス除去手法が、効果を発揮しないか、場合によってはバイアスを悪化させることを示し、それらの手法の効果が当然であると仮定することを問い直すこと。

提案手法

• 社会的バイアスの定義を社会科学的原則に根ざさせ、相対的現象として明確に定義し、規範的基準フレームに依存することを明示する。
• 確率分布間の統計的乖離に基づく一般フレームワークであるDivDistを提案し、さまざまなNLP表現におけるバイアスを測定する。
• 多様なNLP設定（例：テキスト、単語埋め込み、文脈的表現）において一貫した測定が可能であるように、整合性を確保する。
• 二項グループ比較を超えた、多様な規範的基準フレームを許容する、複数グループバイアス測定を可能にする。
• 測定モデリング理論から導出された8基準（例：予測妥当性、一致妥当性）を含むテストプロトコルを設計し、バイアス測定の妥当性を検証する。
• 実世界のデータ（例：米国雇用動向）とモデル挙動（例：GPT-2）を用いた実証的テストにより、測定値の性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 理論的に整合性があり、実証的に実行可能であるような、NLPにおける社会的バイアスの定義はどのように可能か？
• RQ2 NLPにおいて信頼できるとされるバイアス測定が満たすべき基準は何か？
• RQ3 テキスト、埋め込み表現、文脈的表現といった多様なNLP表現において、一貫性があり比較可能なバイアス測定が可能な一般フレームワークを設計できるか？
• RQ4 既存のバイアス測定が、妥当性、信頼性、概念的整合性の観点でどの程度失敗しているか？
• RQ5 現在のバイアス除去手法は本当にバイアスを低減するのか、それとも、より厳密な評価では失敗し、あるいは逆にバイアスを増幅させてしまうのか？

主な発見

• 単語埋め込みバイアス測定値は、現実の米国雇用動向と強く相関しており、一部の従来手法は相関がない、あるいは逆相関を示すなど、優れた予測妥当性を示している。
• GPT-2の表現は、学習データに対してバイアスを強化しているが、これはサンプリング段階では顕在化せず、潜在的にとどまっているため、バイアス検出における重要なギャップを露呈している。
• バイアス除去手法は、提案された測定値によれば、しばしばバイアスを低減できず、場合によってはバイアスを増幅させることさえあるため、その有効性や意味の有りかたに疑問が呈される。
• 提案されたテストプロトコルは、従来の測定手法に内在する概念的・実証的欠陥（例：予測妥当性・信頼性の欠如）を的確に特定できた。
• DivDistフレームワークは、複数のNLP設定において一貫性があり、比較可能なバイアス測定を可能にし、広範な採用とモデル間比較を支援する。
• 本研究は、測定モデリングが、多様な評価作業を統一的な理論的枠組みの下に統合する、堅牢で標準化されたレンズを提供することを示した。