[論文レビュー] Understanding Undesirable Word Embedding Associations

Kawin Ethayarajh, David Duvenaud+1 more|arXiv (Cornell University)|Aug 18, 2019

Topic Modeling参考文献 14被引用数 5

ひとこと要約

本稿では、SGNS や GloVe などの行列分解ベースのモデルにおいて、後処理によるバイアス除去（サブスパイス・プロジェクション）が理論的に、バイアスのないコーパスで学習することと同等であることを示している。RIPA と呼ばれる新しい関連性測定法を導入し、SGNS が平均的には性別バイアスを拡大しないが、性別レトリック語に対しては拡大することを示した。また、バイアスのないアナロジーを保持しつつ、バイアスのあるアナロジーを除去する非教師あり手法を提案している。

ABSTRACT

Word embeddings are often criticized for capturing undesirable word associations such as gender stereotypes. However, methods for measuring and removing such biases remain poorly understood. We show that for any embedding model that implicitly does matrix factorization, debiasing vectors post hoc using subspace projection (Bolukbasi et al., 2016) is, under certain conditions, equivalent to training on an unbiased corpus. We also prove that WEAT, the most common association test for word embeddings, systematically overestimates bias. Given that the subspace projection method is provably effective, we use it to derive a new measure of association called the $ extit{relational inner product association}$ (RIPA). Experiments with RIPA reveal that, on average, skipgram with negative sampling (SGNS) does not make most words any more gendered than they are in the training corpus. However, for gender-stereotyped words, SGNS actually amplifies the gender association in the corpus.

研究の動機と目的

• 単語埋め込みにおける後処理によるデバイアス除去の理論的根拠を理解し、それがバイアスのないコーパスで学習することと同等であるかどうかを特定すること。
• 語の埋め込み関連性を測定する標準的手法である WEAT に内在する理論的欠陥を同定・是正すること。
• コーパスレベルと埋め込みレベルの関連性を正確に比較できる、理論的根拠に基づいた新たな関連性測定法（RIPA）を考案すること。
• デバイアス除去の過程で有効なアナロジーを保持しつつ、性別に適切な語を特定する非教師あり手法を提案すること。
• SGNS が平均的には性別バイアスを増幅しないが、ステレオタイプ語に対しては増幅することを実証すること。

提案手法

• 行列分解ベースのモデル（例：SGNS、GloVe）において、バイアス定義ベクトルの生成する部分空間（主成分のみではなく、そのスパン）を用いる条件のもとで、サブスパイス・プロジェクションによるデバイアス除去が、バイアスのないコーパスで学習することと理論的に同等であることを証明すること。
• WEAT が属性語の頻度に関する暗黙の仮定と、意図的に作られた属性語セットへの感受性により、バイアスを系統的に過大評価していることの同定。
• 関係的内積関連性（RIPA）を ⟨w, b⟩ として定義し、b を性別を定義するペア（例：man–woman）の差分ベクトルの第一主成分とする。これにより、埋め込み空間内とコーパス内での関連性を情報理論的観点から比較可能にする。
• 非教師ありヒューリスティックを提案：語 w は、|β(w; b*)| < |β(w; b’)| を満たす場合にのみデバイアス化される。ここで b* は性別を定義するベクトル、b’ はステレオタイプ的アナロジーから得られるバイアス定義ベクトルである。
• RIPA を用いて、実際の埋め込み内関連性と期待されるコーパスレベルの関連性を比較し、バイアスの拡大がいつ・どのように起こるかを特定する。
• アナロジーの保持度を指標としてデバイアス除去の性能を評価：デバイアス除去後の性別に適切なアナロジーとバイアスのあるアナロジーの保持率を測定する。

実験結果

リサーチクエスチョン

• RQ1 行列分解ベースの単語埋め込みモデルにおいて、後処理によるサブスパイス・プロジェクションによるデバイアス除去は、バイアスのないコーパスで学習することと同等であるか？
• RQ2 WEAT がなぜ系統的に性別バイアスを過大評価するのか、その理論的欠陥は何か？
• RQ3 SGNS は、トレーニングコーパスと比較して、どの程度性別関連性を拡大するのか？
• RQ4 デバイアス除去の過程で、性別に適切なアナロジーをどのように保持しつつ、バイアスのある関連性を除去できるか？
• RQ5 非教師あり手法は、選択的デバイアス除去を導くために、性別に適切な語を効果的に同定できるか？

主な発見

• SGNS や GloVe において、バイアス部分空間がバイアス定義ベクトルのスパン（主成分のみではなく）として定義される限り、サブスパイス・プロジェクションによるデバイアス除去は、バイアスのないコーパスで学習することと理論的に同等である。
• WEAT は、コーパス内での属性語の頻度が等しいと仮定しており、これはバイアスを系統的に過大評価する原因となる。また、意図的に作られた属性語セットに対しては感受性が高く、性別中立語に対しても誤検出（偽陽性）を引き起こす。
• SGNS は、平均的には、トレーニングコーパス内よりも多くの語が埋め込み空間で性別化されない。性別ステレオタイプ語や定義的に性別が明示されている語（例：'nurse', 'queen'）に限って、性別関連性が拡大される。
• 提案された非教師あり手法により、性別に適切なアナロジーのうち 94.9%（強度 ≥0.5）が保持された。一方、Bolukbasi らの教師あり手法ではわずか 16.5% にとどまり、バイアスのあるアナロジーは 80.0% から 36.7% に削減された。
• RIPA を用いることで、コーパスレベルと埋め込みレベルの関連性を直接比較可能となり、バイアスの拡大が SGNS の一般的性質ではなく、特定の語のカテゴリーに特有のものであることが明らかになった。
• デバイアス除去の前段階でベクトル長を正規化してはならない。ベクトル長は、正確なデバイアス除去に重要な情報を保持している。