[論文レビュー] Say No to the Discrimination: Learning Fair Graph Neural Networks with Limited Sensitive Attribute Information

Enyan Dai, Suhang Wang|arXiv (Cornell University)|Sep 3, 2020

Ethics and Social Impacts of AI参考文献 51被引用数 13

ひとこと要約

この論文では、限られた感受性属性情報を利用してグラフニューラルネットワークのバイアスを軽減する新しいフレームワークFairGNNを提案する。感受性属性推定器を用い、敵対的デバイアスと共分散制約を組み合わせることで、希少な感受性属性ラベルでも高いノード分類精度を維持しながら顕著な公平性の向上を達成する。

ABSTRACT

Graph neural networks (GNNs) have shown great power in modeling graph structured data. However, similar to other machine learning models, GNNs may make predictions biased on protected sensitive attributes, e.g., skin color and gender. Because machine learning algorithms including GNNs are trained to reflect the distribution of the training data which often contains historical bias towards sensitive attributes. In addition, the discrimination in GNNs can be magnified by graph structures and the message-passing mechanism. As a result, the applications of GNNs in sensitive domains such as crime rate prediction would be largely limited. Though extensive studies of fair classification have been conducted on i.i.d data, methods to address the problem of discrimination on non-i.i.d data are rather limited. Furthermore, the practical scenario of sparse annotations in sensitive attributes is rarely considered in existing works. Therefore, we study the novel and important problem of learning fair GNNs with limited sensitive attribute information. FairGNN is proposed to eliminate the bias of GNNs whilst maintaining high node classification accuracy by leveraging graph structures and limited sensitive information. Our theoretical analysis shows that FairGNN can ensure the fairness of GNNs under mild conditions given limited nodes with known sensitive attributes. Extensive experiments on real-world datasets also demonstrate the effectiveness of FairGNN in debiasing and keeping high accuracy.

研究の動機と目的

• 限られた感受性属性しか入手できない状況におけるGNNにおける公平性という重要な課題に対処すること。
• GNNのグラフ構造とメッセージパッシング機構が引き起こすバイアスの拡大を軽減すること。
• 感受性属性のラベルが疎である状況でも、高い分類精度を維持しながら公平性を確保する手法を開発すること。
• 実世界の応用、例えばジョブランクイングや犯罪予測の分野における実用的で公平なGNNの導入を可能にすること。

提案手法

• 欠損した感受性属性をノイズを含んで予測できる感受性属性推定器を導入し、ラベルが限られたデータでも公平な学習を可能にする。
• 敵対的学習を適用して、ノード表現から感受性属性を分離させ、予測が保護された特徴に依存するのを低減する。
• 異なる感受性属性グループ間で表現分布が不変であることを保証するために共分散制約を課す。
• 精度と公平性の両方を同時に最適化できる統合的なGNN学習パイプラインにこれらの要素を統合する。
• ノイズあり・不完全な感受性属性情報に対応できる、GATベースのアーキテクチャに微分可能推定器を用いる。
• 敵対的強度を表すハイパーパrameter α と共分散正則化の強度を表す β を調整し、公平性と性能のバランスをとる。

実験結果

リサーチクエスチョン

• RQ1 ノードのわずかなサブセットにしか感受性属性が分かっていない状況で、GNNフレームワークが公平性を達成できるか？
• RQ2 グラフ構造とメッセージパッシングを活用することで、GNNの予測におけるバイアスをどのように低減できるか？
• RQ3 感受性属性のラベルが疎な状況下で、公平性と分類精度のトレードオフはどのようになるか？
• RQ4 提案手法のラベル付き感受性属性集合のサイズの変動に対してどれほど頑健か？
• RQ5 性能の低下を招かずに公平性を最適化するハイパーパrameter設定は何か？

主な発見

• FairGNNはすべてのデータセットでデモグラフィックパリティ差（ΔSP）を顕著に低減し、ベースラインGNNと比較して最大60％の低下を達成した。
• Pokec-zデータセットでは、感受性属性のラベルが500個しかない状況でも、FairGATがROC AUC 90％以上を維持した。
• 感受性属性のラベル数が2000に増加すると、FairGATの分類性能は安定またはわずかに向上したが、他のベースラインはより厳しい正則化条件下で性能が低下した。
• パラメータ感度分析の結果、α ∈ [0.001, 0.01] および β ∈ [5, 20] の範囲で最適な性能が得られ、公平性と精度のバランスが取れた。
• ノイズあり・不完全な感受性属性推定に対しても、バイアス低減が効果的に実現され、データの疎らさに対しても頑健であることが示された。
• 理論的分析により、限られた感受性属性が利用可能な状況でも、FairGNNが緩い条件下で公平性を保証することが確認された。