[論文レビュー] Fairness-Aware Node Representation Learning

Öykü Deniz Köse, Yanning Shen|arXiv (Cornell University)|Jun 9, 2021

Advanced Graph Neural Networks参考文献 51被引用数 10

ひとこと要約

本稿では、対照的ノード表現学習のための公平性に配慮したグラフ増幅手法を提案する。特徴の適応的マスキングと、公平性の概念に従ったエッジ削除を用いてバイアスを低減する。実社会ネットワーク上でも分類精度を損なわずに統計的同等性と同等機会の両方の公平性が向上することを示しており、対照的学習における最初の適応的で公平性に配慮したグラフ増幅フレームワークである。

ABSTRACT

Node representation learning has demonstrated its effectiveness for various applications on graphs. Particularly, recent developments in contrastive learning have led to promising results in unsupervised node representation learning for a number of tasks. Despite the success of graph contrastive learning and consequent growing interest, fairness is largely under-explored in the field. To this end, this study addresses fairness issues in graph contrastive learning with fairness-aware graph augmentation designs, through adaptive feature masking and edge deletion. In the study, different fairness notions on graphs are introduced, which serve as guidelines for the proposed graph augmentations. Furthermore, theoretical analysis is provided to quantitatively prove that the proposed feature masking approach can reduce intrinsic bias. Experimental results on real social networks are presented to demonstrate that the proposed augmentations can enhance fairness in terms of statistical parity and equal opportunity, while providing comparable classification accuracy to state-of-the-art contrastive methods for node classification.

研究の動機と目的

• グラフ対照的学習において、グラフ構造と特徴のバイアスが強化されるという公平性の考慮が欠如している問題に対処すること。
• ノード特徴とトポロジーにおける感受性属性に焦点を当て、内蔵バイアスを低減する適応的グラフ増幅スキームの開発。
• バイアス低減増幅の設計を導くために、グラフ上に新たな公平性概念を導入すること。
• 適応的特徴マスキングが特徴と感受性属性の間の相関を低減することを理論的および実験的に検証すること。
• ノード分類において、最先端の対照的手法と同等の性能を維持しつつ、統計的同等性と同等機会といった公平性指標の向上を達成すること。

提案手法

• ノードの中心性と構造的役割に基づき、適応的に特徴とエッジを破損させる公平性に配慮したグラフ増幅を提案。
• 構造的バイアスを低減するための2つの適応的エッジ削除戦略を導入：次数に依存する戦略と、局所的クラスタリングに基づく三角形ベースの戦略。
• 特徴と感受性属性との相関に基づき、選択的に特徴をマスキングする適応的特徴マスキングを適用し、期待される相関を低減。
• 理論的分析により、非適応的マスキングと比較して、適応的特徴マスキングが特徴と感受性属性の間の期待される全サンプル相関係数（ρ）を低減することを証明。
• 1ノードあたり2つの増幅ビューを用いた対照的学習を実装。増幅は公平性に配慮しており、計算コストは軽量。
• 自己教師付き対照的目的関数を用いてノード表現を学習。適応的増幅設計によりバイアスの拡散を最小限に抑える。

実験結果

リサーチクエスチョン

• RQ1 適応的グラフ増幅は、ノード分類タスクの性能を劣化させることなく、ノード表現のバイアスを低減できるか？
• RQ2 特徴と感受性属性の間の相関を低減する観点で、適応的マスキングは非適応的マスキングより優れているか？
• RQ3 公平性に配慮したエッジ削除戦略は、統計的同等性や同等機会といった公平性指標を向上させられるか？
• RQ4 公平性に配慮した増幅は、既存の対照的学習および公平性に配慮したベースラインを上回る公平性を達成するか？ ただし、精度は同等に保たれるか？
• RQ5 グラフ上での異なる公平性概念（例：統計的同等性、同等機会）は、効果的な増幅の設計にどのように寄与するか？

主な発見

• 提案手法である FM + p^(deg) および FM + p^(T) は、Pokec-z において最小の公平性ギャップを達成：ΔSP = 2.50% および ΔEO = 2.18% であり、すべてのベースラインを上回る。
• Pokec-n においても、FM + p^(deg) は ΔSP = 4.39% および ΔEO = 6.05% を達成し、データセット全体にわたり一貫した公平性の向上を示した。
• 適応的特徴マスキングは、理論的にノード特徴と感受性属性の間の期待される相関を低減することを証明した。
• 公平性の向上にもかかわらず、提案手法は最先端の対照的手法（例：GCA、GRACE）と同等の分類精度を維持しており、Pokec-n では FM + p^(deg) で 66.42% の精度を達成。
• 対照的公平性に配慮した手法 NIFTY は、統計的同等性と同等機会の両方で性能が劣っており、公平性の目的が特定の公平性概念と整合している必要があることを示唆。
• すべての対照的学習ベースラインは、ランダムウォークベースの手法（例：FairWalk）を上回っており、グラフトポロジーがバイアスを拡散することを確認。提案手法の増幅は、このバイアスを効果的に緩和している。