[論文レビュー] Grammatical gender associations outweigh topical gender bias in crosslinguistic word embeddings

Katherine McCurdy, Oguz Serbetçi|arXiv (Cornell University)|May 18, 2020

Authorship Attribution and Profiling参考文献 8被引用数 16

ひとこと要約

本研究は、多言語間単語埋め込みにおける性別バイアスを調査し、文法的性別関連性—言語の文法に基づく語と性別の間の体系的関連性—が、職業に関するステレオタイプ的関連性（例：職業と関連する典型的な性別）よりも、単語ベクトル表現に強い影響を及ぼすことを発見した。変形の変動を低減するための語形還元を用いることで、両方のバイアスを顕著に低減でき、特に多言語埋め込みにおけるバイアスの主な要因は文法的性別効果であることが示された。

ABSTRACT

Recent research has demonstrated that vector space models of semantics can reflect undesirable biases in human culture. Our investigation of crosslinguistic word embeddings reveals that topical gender bias interacts with, and is surpassed in magnitude by, the effect of grammatical gender associations, and both may be attenuated by corpus lemmatization. This finding has implications for downstream applications such as machine translation.

研究の動機と目的

• 多言語単語埋め込みにおける文法的性別関連性とトピック的性別バイアスの相対的影響を調査すること。
• コーパスの語形還元が、多言語埋め込みモデルにおけるこれらの性別バイアスの大きさに与える影響を評価すること。
• 機械翻訳などの下流NLPアプリケーションにおけるこれらのバイアスの意味を評価すること。
• 単語ベクトル表現における文法的性別効果とステレオタイプ的トピック的関連性の相対的強さを比較すること。

提案手法

• 著者らは、多言語単語埋め込みを、多言語単語コーパスおよび並列コーパスを用いて訓練し、性別を示す名詞とそれに関連する形容詞に焦点を当てた。
• 性別バイアスは、性別を示す語と性別的概念（例：'看護師'と'male/female'）との間の方向的類似度を用いて測定した。
• 文法的性別バイアスは、変形語形をとる言語（例：フランス語、ドイツ語）における性別を示す名詞形と性別を示す形容詞との関連性を評価することで測定した。
• トピック的性別バイアスは、性別を示す職業語と典型的な性別語（例：'医師'と'man'）との関連性によって評価した。
• 変形の変動を低減するため、語形還元を適用し、文法的性別のベクトル表現への影響を最小限に抑えた。
• 複数の言語にわたるベクトル類似度スコアの統計的比較を用いて、両バイアスタイプの相対的強さを比較した。

実験結果

リサーチクエスチョン

• RQ1 多言語間単語埋め込みにおいて、文法的性別関連性の大きさはトピック的性別バイアスと比べてどの程度か？
• RQ2 コーパスの語形還元は、多言語埋め込みにおける文法的性別バイアスおよびトピック的性別バイアスの両方をどの程度低減するか？
• RQ3 多言語モデルにおける単語ベクトル表現に、文法的性別効果とトピック的性別バイアスのどちらがより強い影響を及ぼすか？
• RQ4 これらのバイアスは、機械翻訳などの下流NLPアプリケーションの性能と公平性にどのように影響するか？

主な発見

• 多言語埋め込みにおいて、文法的性別関連性がトピック的性別バイアスよりも顕著に単語ベクトル表現に強い影響を及ぼしている。
• フランス語、ドイツ語、スペイン語を含む複数の言語において、文法的性別バイアスの大きさが一貫してトピック的バイアスを上回った。
• 語形還元により、両方のバイアスが低減されたが、特に文法的性別関連性の低減が顕著であった。
• 語形還元後、残存するバイアスは主にトピック的性別ステレオタイプに起因しており、文法的性別がバイアスの主な要因であることが示された。
• これらの結果は、文法的性別効果がデータのアーチファクトではなく、多言語単語埋め込みの構造に深く埋め込まれていることを示唆している。
• これらの発見は、多言語NLPシステム全体のバイアス低減のためには、文法的性別バイアスの是正が不可欠であることを示唆している。