[論文レビュー] FairGNN: Eliminating the Discrimination in Graph Neural Networks with Limited Sensitive Attribute Information.

Enyan Dai, Suhang Wang|arXiv (Cornell University)|Sep 3, 2020

Ethics and Social Impacts of AI参考文献 74被引用数 8

ひとこと要約

FairGNN は、限定的な感受性属性情報を利用することで、グラフニューラルネットワークにおけるバイアスを軽減するための新しいフレームワークを提案する。グラフ構造とフェアネスに配慮したメッセージパッシング機構を活用することで、わずかな精度の低下で最先端のフェアネスを達成し、感受性属性がラベル付けされたノードの小さなサブセットがある状況でも有効である。

ABSTRACT

Graph neural networks (GNNs) have shown great power in modeling graph structured data. However, similar to other machine learning models, GNNs may make predictions biased on protected sensitive attributes, e.g., skin color, gender, and nationality. Because machine learning algorithms including GNNs are trained to faithfully reflect the distribution of the training data which often contains historical bias towards sensitive attributes. In addition, the discrimination in GNNs can be magnified by graph structures and the message-passing mechanism. As a result, the applications of GNNs in sensitive domains such as crime rate prediction would be largely limited. Though extensive studies of fair classification have been conducted on i.i.d data, methods to address the problem of discrimination on non-i.i.d data are rather limited. Furthermore, the practical scenario of sparse annotations in sensitive attributes is rarely considered in existing works. Therefore, we study the novel and important problem of learning fair GNNs with limited sensitive attribute information. FairGNN is proposed to eliminate the bias of GNNs whilst maintaining high node classification accuracy by leveraging graph structures and limited sensitive information. Our theoretical analysis shows that FairGNN can ensure the fairness of GNNs under mild conditions given limited nodes with known sensitive attributes. Extensive experiments on real-world datasets also demonstrate the effectiveness of FairGNN in debiasing and keeping high accuracy.

研究の動機と目的

• i.i.d. でないグラフ構造データにおけるフェアな機械学習の重要なギャップに対処する。これは、i.i.d. データに適した従来の手法が適用できないためである。
• グラフメッセージパッシングと構造的バイアスによって悪化する可能性のある GNN における差別の的要因を解消する。
• 感受性属性のラベルが非常に限られた状況下でも効果的に動作するフェアな GNN フレームワークを開発する。
• 予測性能を犠牲にせずにフェアネスを確保し、高いノード分類精度を維持する。
• 理論的および実験的に、わずかな数のラベル付き感受性属性でフェアネスを達成できることを検証する。

提案手法

• GNN 学習中に限定的な感受性属性情報を組み込むフェアネスに配慮したメッセージパッシング機構を導入する。
• グラフ構造を活用して、感受性属性が既知のノードのサブセットであっても、フェアネス制約をノード間で伝搬する。
• 感受性属性に基づく予測の差をペナルティとして課す正則化損失関数を定式化するが、モデルの精度は保つ。
• 特に低監視環境下で、同じ感受性属性を持つノードに対して類似した予測を促進するフェアネス正則化項を適用する。
• グラフのトポロジーを活用して、ラベルなしノードに対しても感受性属性のフェアネス信号を伝搬させ、広範な感受性属性ラベルの必要性を低減する。
• 理論的分析により、感受性属性がラベル付けされたノードの少数である場合でも、FairGNN がフェアネスを保証する条件を示した。

実験結果

リサーチクエスチョン

• RQ1 感受性属性ラベルへのアクセスが限定的であっても、GNN におけるフェアネスを効果的に達成できるか？
• RQ2 グラフ構造は、GNN におけるバイアスの伝搬と是正にどのように影響するか？
• RQ3 FairGNN は、予測の不平等を低減しつつ、どの程度高い分類精度を維持できるか？
• RQ4 感受性属性ラベルがスパースな状況下で、GNN におけるフェアネスに理論的保証を与えることは可能か？
• RQ5 非 i.i.d. グラフ環境下で、FairGNN は既存のフェアな学習手法と比較してどのように差をつけるか？

主な発見

• FairGNN は、感受性属性がラベル付けされたノードの少数である場合でも、GNN の予測バイアスを顕著に低減する。
• モデルは高いノード分類精度を維持しており、標準的な GNN と比較して精度の低下は最小限に抑えられる。
• 理論的分析により、感受性属性が限られた状況下でも、FairGNN が弱い仮定のもとでフェアネスを保証することが確認された。
• 実世界のデータセットを用いた広範な実験により、複数のベンチマーク設定で一貫したフェアネス指標の向上が示された。
• 特に低監視状況下で、既存のフェアな学習ベースラインを上回り、フェアネスと精度の両方で優れた性能を示した。
• グラフ構造がフェアネス信号を効果的に拡大し、感受性属性ラベルがスパースであっても、頑健なバイアス低減を可能にした。