[論文レビュー] Adversarial Learning for Debiasing Knowledge Graph Embeddings

Mario Arduini, Lorenzo Noci+4 more|arXiv (Cornell University)|Jun 29, 2020

Advanced Graph Neural Networks参考文献 26被引用数 4

ひとこと要約

本稿では、特に性別バイアスを低減するため、知識グラフ埋め込み（KGE）から感受性属性情報（特に性別）を除去する新しい対抗的フレームワークFAN（Filtering Adversarial Network）を提案する。FANは、ドメインネーションと敵対的に訓練されたフィルターネットワークを用い、埋め込みから性別関連の信号を抽出・抑制することで、他のタスク（職業予測など）のパフォーマンスを損なわせることなく、性別予測の精度をほぼランダムレベルにまで低下させる。

ABSTRACT

Knowledge Graphs (KG) are gaining increasing attention in both academia and industry. Despite their diverse benefits, recent research have identified social and cultural biases embedded in the representations learned from KGs. Such biases can have detrimental consequences on different population and minority groups as applications of KG begin to intersect and interact with social spheres. This paper aims at identifying and mitigating such biases in Knowledge Graph (KG) embeddings. As a first step, we explore popularity bias -- the relationship between node popularity and link prediction accuracy. In case of node2vec graph embeddings, we find that prediction accuracy of the embedding is negatively correlated with the degree of the node. However, in case of knowledge-graph embeddings (KGE), we observe an opposite trend. As a second step, we explore gender bias in KGE, and a careful examination of popular KGE algorithms suggest that sensitive attribute like the gender of a person can be predicted from the embedding. This implies that such biases in popular KGs is captured by the structural properties of the embedding. As a preliminary solution to debiasing KGs, we introduce a novel framework to filter out the sensitive attribute information from the KG embeddings, which we call FAN (Filtering Adversarial Network). We also suggest the applicability of FAN for debiasing other network embeddings which could be explored in future work.

研究の動機と目的

• 知識グラフ埋め込み（KGE）に埋め込まれた社会的・文化的バイアス、特に性別バイアスを調査し、低減すること。
• ネットワーク埋め込みにおける人気バイアスの存在を検討し、KGEと比較すること。KGEでは、次数の高いノードがより高いリンク予測精度を示す。
• 性別バイアスにとどまらず、他の埋め込みタイプにも適用可能な汎用的なデバイアス化フレームワークを開発すること。
• 明示的な性別関係が削除された後でも、KGEから性別属性が推定可能であることを示すこと。
• FANが知識グラフ内の高次ノードおよび低次ノードの両方で、性別バイアスを効果的に除去できることを検証すること。

提案手法

• ミニマックス設定で共同訓練されるフィルターネットワークとドメインネーションネットワークから成る、FANという対抗的フレームワークを提案する。
• フィルターネットワークをKGE上で恒等写像を学習させつつ、ドメインネーションが埋め込みから性別を予測しようとするように訓練する。
• フィルターネットワークおよびドメインネーションネットワークの両方で、Leaky ReLUとドロップアウト（0.5）を用いた多層パーセプトロン（MLP）を採用する。
• 学習の安定化のため、ドメインネーションの5ステップごとにフィルターネットワークを更新することで、敵対的訓練を開始する。
• 事前学習済みのフィルターネットワークを用いてデバイアス化された埋め込みを生成し、その後、フィルタリング済みの埋め込み上で性別および職業予測のパフォーランスを評価する。
• 交差検証を用いて、パフォーマンスの低下とバイアス除去効果を測定する。

実験結果

リサーチクエスチョン

• RQ1 明示的な性別関係が知識グラフから削除された後でも、KGEに性別情報がどの程度エンコードされているか。
• RQ2 KGEにおけるリンク予測精度はノード次数とどの程度相関しているか。また、node2vecのようなネットワーク埋め込みとは対照的である。
• RQ3 敵対的フィルタリングフレームワークは、非感受性タスク（下流タスク）のパフォーランスを損なわせることなく、KGEからの性別バイアスを効果的に除去できるか。
• RQ4 FANのデバイアス化フレームワークは、異なるKGEアルゴリズムやノード次数分布にも一般化可能か。
• RQ5 KGEにおける性別バイアスは、明示的な関係ではなく、埋め込み空間の構造的性質に起因しているか。

主な発見

• TransE、TransD、TransHのKGEから、明示的な性別関係が削除されても、性別情報が強く予測可能であることが示され、バイアスが構造的にエンコードされていることが裏付けられた。
• KGEにおけるリンク予測精度はノード次数と正の相関を示すが、node2vecのようなネットワーク埋め込みとは対照的であり、KGEには特有の「人気バイアス」が存在することが示された。
• FANは、高次ノードおよび低次ノードの両方で、性別予測精度をほぼランダムレベル（約50％）まで低下させることに成功し、効果的なデバイアス化が実現された。
• 職業予測のパフォーマンスはフィルタリング後も安定しており、FANが非感受性タスクの有用性を維持していることが確認された。
• 敵対的訓練スキームにより、性別関連の信号が効果的に抑制されつつ、埋め込みの表現品質が損なわれなかった。
• FANは性別バイアスにとどまらず、KGEにおける他の感受性属性のデバイアス化にも応用可能であり、さらには他のネットワーク埋め込みフレームワークへの応用も可能である。