[論文レビュー] On the Intrinsic and Extrinsic Fairness Evaluation Metrics for Contextualized Language Representations

Yang Trista Cao, Yada Pruksachatkun+5 more|arXiv (Cornell University)|Mar 25, 2022

Ethics and Social Impacts of AI被引用数 10

ひとこと要約

本稿は、毒性、感情、ステレオタイプバイアスの3つのバイアスタイプにわたり、文脈化言語モデルにおける内因的公平性指標と外因的公平性指標の相関関係を調査する。19のモデルと複数の指標を用いて、内因的公平性評価と外因的公平性評価の間には弱い相関関係があることが判明し、上流の公平性改善が下流の公平性を保証しないこと、ならびにデータセットの品質、指標の整合性、実験設定が実世界の応用におけるバイアス検出に顕著に影響することを示している。

ABSTRACT

Multiple metrics have been introduced to measure fairness in various natural language processing tasks. These metrics can be roughly categorized into two categories: 1) \emph{extrinsic metrics} for evaluating fairness in downstream applications and 2) \emph{intrinsic metrics} for estimating fairness in upstream contextualized language representation models. In this paper, we conduct an extensive correlation study between intrinsic and extrinsic metrics across bias notions using 19 contextualized language models. We find that intrinsic and extrinsic metrics do not necessarily correlate in their original setting, even when correcting for metric misalignments, noise in evaluation datasets, and confounding factors such as experiment configuration for extrinsic metrics. %al

研究の動機と目的

• 内因的公平性指標（言語モデル自体を直接評価するもの）と外因的公平性指標（下流のシステム出力を評価するもの）の関係を調査すること。
• 文脈化された言語表現における内因的公平性指標と外因的公平性指標の相関に影響を与える要因を特定すること。
• データセットの品質、バイアスの概念との整合性、実験設定が公平性指標の信頼性に与える影響を評価すること。
• NLPシステムにおけるバイアス評価のベストプラクティスを提供し、実世界での信頼性と公平性を向上させること。

提案手法

• 毒性、感情、ステレオタイプの3つのバイアスタイプについて、19の事前学習済み言語モデル（例：BERT、GPT-2）を用いて、内因的および外因的指標を用いた大規模な相関研究を実施した。
• 単語埋め込みと生成テンプレートにおけるバイアスを評価するため、CEAT（文脈化された埋め込み連関テスト）とILPS（増加対数尤度スコア）といった内因的指標を採用した。
• 下流のテキスト生成および分類タスクにおける公平性を評価するため、BOLD（バイアス指向言語検出）、B-Sent、B-Tox、B-Stereoといった外因的指標を適用した。
• バイアス概念の不整合、保護対象グループの定義、データセットのノイズが指標の相関に与える影響を評価するためのアブレーションスタディを実施した。
• デコード温度や分類器の頑健性といった、実験設定が下流タスクにおける公平性測定に与える影響を評価した。
• 特に宗教関連のステレオタイプを対象とするBOLDベンチマークにおいて、感情、関心、毒性分類器を用いて、ノイズの多いまたはバイアスを含むプロンプトをフィルタリングした。

実験結果

リサーチクエスチョン

• RQ1 内因的公平性指標と外因的公平性指標の相関は、異なる文脈化言語モデルおよびバイアスタイプにおいてどの程度成立するか？
• RQ2 毒性と感情といったバイアス概念の不整合が、内因的公平性指標と外因的公平性指標の相関にどのように影響するか？
• RQ3 評価データセットのノイズが、外因的公平性指標の信頼性およびそれらと内因的指標との相関にどのように影響するか？
• RQ4 デコード温度や分類器の選択といった実験設定が、下流タスクにおける公平性測定にどのように影響するか？
• RQ5 データセットのフィルタリングと指標の整合性を高めることで、内因的公平性評価と外因的公平性評価の相関はどの程度向上するか？

主な発見

• 内因的公平性指標と外因的公平性指標は、19のモデルにおいても弱い、あるいは一貫性のない相関関係を示した。これは、指標の不整合やデータセットのノイズを補正しても同様であった。
• B-Stereo指標のレース分野において評価データの出典を統一したことで、相関は-0.18から0.02にわずかに改善された。
• BOLDデータセットのノイズの多いプロンプトを感情および毒性分類器でフィルタリングした後、CEATとB-Sentの相関は0.11に上昇し、StereoSetとB-Stereoの相関は0.10に上昇した。
• GPT-2においてデコード温度を0.5から1.0に引き上げたことで、生成出力の否定的感情の割合が4.6％から15.6％に上昇し、推論設定への感受性が示された。
• 500件のBOLD生成テキストに単語レベルのノイズ（交換／削除）を導入した結果、否定的感情の割合は13.6％から12.18％に、否定的関心の割合は25.2％から22.86％に低下した。これは、ノイズが分類器ベースの指標スコアに影響を及ぼすことを示している。
• 本研究は、公平性指標がモデルのハイパーパrameter、評価データセットの品質、指標計算に用いられる補助モデルといった交絡要因に感受性を示すことが判明し、代理指標に基づく公平性評価の信頼性が損なわれる可能性があることを明らかにした。