[論文レビュー] Measuring Fairness with Biased Rulers: A Survey on Quantifying Biases in Pretrained Language Models

Pieter Delobelle, Ewoenam Kwaku Tokpo+2 more|arXiv (Cornell University)|Dec 14, 2021

Ethics and Social Impacts of AI被引用数 12

ひとこと要約

この論文は、BERTのような文脈的言語モデルの公平性メトリクスを調査し、下流のバイアスとの整合性と相関関係を評価している。内在的メトリクスはテンプレート、シード語、埋め込み選択に非常に敏感であることが判明し、結果が一貫しない。著者らは、下流タスクにおける外在的公平性評価を優先し、埋め込み依存のメトリクスではなく、DisCo や LPBS のような埋め込みに依存しないメトリクスを使用することを推奨する。

ABSTRACT

An increasing awareness of biased patterns in natural language processing resources, like BERT, has motivated many metrics to quantify `bias' and `fairness'. But comparing the results of different metrics and the works that evaluate with such metrics remains difficult, if not outright impossible. We survey the existing literature on fairness metrics for pretrained language models and experimentally evaluate compatibility, including both biases in language models as in their downstream tasks. We do this by a mixture of traditional literature survey and correlation analysis, as well as by running empirical evaluations. We find that many metrics are not compatible and highly depend on (i) templates, (ii) attribute and target seeds and (iii) the choice of embeddings. These results indicate that fairness or bias evaluation remains challenging for contextualized language models, if not at least highly subjective. To improve future comparisons and fairness evaluations, we recommend avoiding embedding-based metrics and focusing on fairness evaluations in downstream tasks.

研究の動機と目的

• 文脈的言語モデル（例：BERT）のための既存の公平性メトリクスを調査すること。
• これらのメトリクスが異なる設定（テンプレート、シード、埋め込み）において、整合性と適合性を評価すること。
• 内在的公平性メトリクスと下流タスクにおける外在的バイアスとの関係を調査すること。
• NLPシステムにおける信頼性のあるバイアス評価のための実用的アドバイスを提供すること。
• 現在のメトリクスの限界を強調し、現実世界の公平性の代理として内在的測定に過度に依存することを警告すること。

提案手法

• 文脈的言語モデルの公平性メトリクスに関する包括的な文献サーベイを実施した。
• 5つの代表的なモデルを用いて実験的評価を実施した：BERT-base-uncased、BERT-large-uncased、RoBERTa-base、DistilBERT-base-uncased、BERT-base-multilingual-uncased。
• 内在的公平性メトリクスと外在ベンチマーク BiasInBios 間の相関分析を実施し、整合性を評価した。
• テンプレート、シード語の選択、埋め込み表現（例：[CLS]、ターゲット語の埋め込み）の違いがメトリクスの安定性に与える影響を評価した。
• BiasInBios データセットを用いてモデルを微調整・評価し、内在的と外在的バイアス測定の比較を可能にした。
• 再現性と再利用を支援するため、公平性メトリクスのコードとパッケージを https://github.com/iPieter/biased-rulers で公開した。

実験結果

リサーチクエスチョン

• RQ1 BERT などの文脈的言語モデルに適した公平性測定は、どのようなものがあるか？
• RQ2 これらの公平性測定は英語以外の言語にも一般化できるか？
• RQ3 公平性測定、使用するテンプレート、埋め込みの選択との関係は何か？
• RQ4 バイアス評価において最も信頼性が高く適合性の高いメトリクスの組み合わせは何か？

主な発見

• 多くの内在的公平性メトリクスは、テンプレート設計、シード語選択、埋め込み表現に極めて感受性を示すため、互換性に欠ける。
• ターゲット語の埋め込みを [CLS] 埋め込みの代わりに使用することで、異なるテンプレート間でより安定的かつ頑健なメトリクス結果が得られる。
• 内在的公平性メトリクスと外在的バイアス測定（例：BiasInBios）との相関は、しばしば弱い、あるいは負の値を示し、内在的メトリクスと下流タスクにおける現実のバイアスの間には整合性が乏しいことが示唆される。
• CrowS-pairs などのメトリクスは、BiasInBios と相関が低く、主にテンプレートや表現の違いに起因する不確実性のため、不安定であることが判明した。
• Tan と Celis (2019) が提唱した WEAT の変種は、外在的バイアスと相関が比較的強いことが判明し、内在的メトリクスの中ではより信頼性が高い可能性がある。
• 本研究は、埋め込み依存の内在的メトリクスが顕著なばらつきを引き起こすため、DisCo や LPBS のような埋め込みに依存しない代替手段を優先すべきであり、下流タスクにおける外在的公平性評価が意味のある公平性評価のために不可欠であると結論づけた。