[論文レビュー] Fairness Amidst Non-IID Graph Data: A Literature Review

Wenbin Zhang, Shuigeng Zhou+2 more|arXiv (Cornell University)|Feb 15, 2022

Ethics and Social Impacts of AI被引用数 7

ひとこと要約

この論文は、非i.i.d.グラフデータにおける公平性に関する最初の包括的サーベイを提供し、従来のi.i.d.に基づく公平性研究とグラフ構造データの間のギャップを埋めている。グラフ学習における公平性の定義、手法、データセット、評価指標をレビューし、連続的敏感属性の取り扱い、動的グラフ、分野特有の公平性の制限を浮き彫りにするとともに、人間中心で、頑健かつ解釈可能な公平なグラフ学習システムのための今後の研究方向性を提案している。

ABSTRACT

The growing importance of understanding and addressing algorithmic bias in artificial intelligence (AI) has led to a surge in research on AI fairness, which often assumes that the underlying data is independent and identically distributed (IID). However, real-world data frequently exists in non-IID graph structures that capture connections among individual units. To effectively mitigate bias in AI systems, it is essential to bridge the gap between traditional fairness literature, designed for IID data, and the prevalence of non-IID graph data. This survey reviews recent advancements in fairness amidst non-IID graph data, including the newly introduced fair graph generation and the commonly studied fair graph classification. In addition, available datasets and evaluation metrics for future research are identified, the limitations of existing work are highlighted, and promising future directions are proposed.

研究の動機と目的

• 従来の公平性研究（i.i.d.データを仮定）と、構造的相互接続性によりi.i.d.仮定に反する実世界のグラフデータとの間の重要なギャップを解消すること。
• 非i.i.d.データ特性（ノード接続性、近隣影響など）を特に焦点として、公平性に配慮したグラフ学習における最近の進展を体系的にレビュー・分類すること。
• 公平なグラフ学習のための既存のベンチマークデータセットと評価指標を特定・統合し、再現可能で標準化された研究を支援すること。
• 連続的敏感属性の適切な取り扱い、動的グラフの進化、分野特有の公平性課題への不十分な対応といった、現在のアプローチの主な制限を浮き彫りにすること。
• 人間中心の公平性定義、理論的基盤、プライバシーおよび解釈可能性との統合を軸とした、今後の研究方向性を提案すること。

提案手法

• グラフ学習における公平性アプローチを個人レベルとグループレベルの公平性に分類し、リプシッツ条件、順位付け、スペクトル理論、ラプラシアン正則化、敵対的学習に基づくサブカテゴリを含む。
• 公平性の概念、グラフタイプ、敏感属性タイプ、公平性メカニズム、評価方法の5つの次元からなる、公平性手法の分類体系を提案。
• スペクトル理論（例：Kleindessnerら、2019）、敵対的学習（例：BoseとHamilton、2019）、反事実的学習（例：Agarwalら、2021）に基づく最近の手法をレビュー・統合し、グループ公平性に特化。
• グラフ構造が公平性に与える影響を分析し、GCNにおける近隣集約が入力データが一様分布であってもバイアスを拡大する可能性があることを示している。
• 既存のベンチマークデータセット（例：Cora、PubMed、COLLEGE、FEMNIST）と指標（例：AUC、コサイン類似度、ジャカード係数）を特定・評価。
• 外部の公平性定義の妥当性と現実世界の害にのっとった整合性を重視することで、今後の研究のフレームワークを提案。

実験結果

リサーチクエスチョン

• RQ1 グラフデータにおけるi.i.d.仮定の違反が、従来の機械学習と比較して、公平性の定義と測定を根本的にどのように変えるか？
• RQ2 グラフ学習における公平性を保証するための主な手法的アプローチは何か？また、個人レベルとグループレベルの公平性の間でどのように異なるか？
• RQ3 既存のグラフ学習における公平性指標がなぜしばしば現実世界の害を捉えられなかったり正当化されなかったりするのか？外部妥当性を高めるには何が必要か？
• RQ4 現実応用で一般的な連続的敏感属性に、公平性を効果的に拡張するにはどうすればよいか？現行のグラフ公平性研究では、この分野はあまり掘り下げられていない。
• RQ5 時間的に変化するネットワーク構造をとる動的グラフにおける公平性を保証するにあたり、どのような独自の課題と未解決問題があるか？

主な発見

• グラフデータはノード間の相互接続性により、本質的にi.i.i.d.仮定に違反しており、構造的バイアスが生じ、入力データが一様分布であっても社会的差別を拡大・継承する可能性がある。
• 現在のグラフ学習における公平性手法は、主にi.i.d.公平性概念の適応であり、ノード中心性、コミュニティ構造、近隣類似性といったグラフ固有の性質を十分に活用できていない。
• 類似したグラフ的構造的近隣にいるノードが同じ予測を受けるべきであるという根拠が明確でないため、グラフ設定における公平性定義の理論的基盤が揺らぎがちである。
• 多くの既存研究は二値または離散化された敏感属性に焦点を当てており、現実応用で一般的な連続的敏感属性にはほとんど注意を払っていない。
• 動的グラフの公平性はほとんど未調査であり、時間的に連続的な公平性の強制が長期的な差別的結果をもたらす可能性があるかどうかは、未解決の問題のままである。
• 医療などプライバシーが重要な分野における分野特有の公平性は未だに未開拓であり、特に匿名化と空間的・時間的相関がグラフ構造データにおけるバイアス伝搬に与える影響についての理解が不足している。