[論文レビュー] HERB: Measuring Hierarchical Regional Bias in Pre-trained Language Models

Yizhi Li, Ge Zhang+5 more|arXiv (Cornell University)|Nov 5, 2022

Ethics and Social Impacts of AI被引用数 5

ひとこと要約

本稿では、部分的地域クラスタリングと記述的ベクトルを活用して地域的ステレオタイプの不一致を測定することで、事前学習言語モデルにおける階層的地域的バイアスを測定するHERBという階層的メトリクスを導入する。実験により、HERBは複数のトピックにわたり階層的地域的バイアスを効果的に検出・測定でき、語の選択に強く依存せず、有害な事前学習データと相関することを示している。

ABSTRACT

Fairness has become a trending topic in natural language processing (NLP), which addresses biases targeting certain social groups such as genders and religions. However, regional bias in language models (LMs), a long-standing global discrimination problem, still remains unexplored. This paper bridges the gap by analysing the regional bias learned by the pre-trained language models that are broadly used in NLP tasks. In addition to verifying the existence of regional bias in LMs, we find that the biases on regional groups can be strongly influenced by the geographical clustering of the groups. We accordingly propose a HiErarchical Regional Bias evaluation method (HERB) utilising the information from the sub-region clusters to quantify the bias in pre-trained LMs. Experiments show that our hierarchical metric can effectively evaluate the regional bias with respect to comprehensive topics and measure the potential regional bias that can be propagated to downstream tasks. Our codes are available at https://github.com/Bernard-Yang/HERB.

研究の動機と目的

• 事前学習言語モデルに地域的バイアスが存在するかどうか、特に地理的クラスタリングを考慮した場合に、その有無を調査すること。
• 既存のバイアス評価手法が階層的地域的構造を考慮していないというギャップを埋めること。
• 部分的地域の不一致を捉え、下流タスクへのバイアスの伝播を反映する、原理的で階層的な評価メトリクスを設計すること。
• 語の選択の変化に対してメトリクスの頑健性を検証し、有害な学習データへの感受性を評価すること。

提案手法

• HERBはテンプレートベースのアプローチを採用し、'[地域]の住人は[記述]'という形で、事前学習モデルから文脈に応じた尤度を生成する。
• 各記述語のための地域固有の文脈尤度を捉えるために、記述的ベクトルを導入する。
• 地域的バイアスは、記述的ベクトル空間における部分的地域クラスタのスパarsity（スパarsity）としてモデル化され、より高いスパarsityは不一致とバイアスの程度が大きいことを示す。
• 部分的地域のクラスタリングを適用することで、部分的地域レベルおよびより上位の地域グループレベルのバイアスを評価する。
• メトリクスは2つの基準を満たすように設計されている：(1) 上位レベルの評価に部分的地域構造を活用すること、(2) 同一地域レベル内の乖離を検出できること。
• 語の選択の変更に対する頑健性は、記述語を意味的に類似した語に置き換えてスコアの安定性を測定することでテストされる。

実験結果

リサーチクエスチョン

• RQ1 事前学習言語モデルに地域的バイアスが存在するのか、特に地域の地理的クラスタリングを考慮した場合に、その有無は？
• RQ2 地域的バイアスは階層的構造を持つことができ、部分的地域がその上位グループと比較して一貫性のない判断を示すのか？
• RQ3 階層的地域グループと部分的地域の乖離を考慮した上で、地域的バイアスを定量的にどのように測定できるか？
• RQ4 提案されたメトリクスは、記述語の選択変更に対してどの程度頑健か？
• RQ5 HERBスコアは、事前学習中に偏った学習データが統合されたことを反映できるか？

主な発見

• HERBは階層的地域的バイアスを効果的に検出でき、例えば英国が他のヨーロッパ諸国と異なる傾向を示すなど、同じ上位レベル地域に属する部分的地域間で尤度が一貫しない傾向があることを示している。
• メトリクスは頑健性を示している：記述語を意味的に類似した語に置き換えてもHERBスコアの変化は最小限に抑えられ、信頼性が確認された。
• HERBスコアは、継続的事前学習に使用された有害な地域的バイアスを持つ文の数と正の相関を示しており、偏ったデータへの露出に感受性があることを示している。
• 地域的バイアスの階層的構造は、表現空間に存在するだけでなく、下流タスクへも伝播する。これにより、階層的評価の必要性が裏付けられた。
• RoBERTa や ALBERT といったモデルは、外見、知能、道徳といったトピックにおいて顕著な地域的バイアスを示しており、極端な例として「ハゲ」が特定の地域に強く関連付けられるなど、顕著な偏りが観察された。