[論文レビュー] FairEdit: Preserving Fairness in Graph Neural Networks through Greedy Graph Editing

Donald Loveland, Jiayi Pan+2 more|arXiv (Cornell University)|Jan 10, 2022

Ethics and Social Impacts of AI被引用数 7

ひとこと要約

FairEditは、勾配ベースの最適化を用いてグラフ構造のエッジを戦略的に追加または削除することで、GNNにおける公平性を向上させるモデルに依存しない手法を提案する。離散的グラフ編集の連続的リラクゼーションを導入し、予測性能を損なわずに多様なGNNアーキテクチャーやデータセットにおいて効率的かつスケーラブルに公平性を向上可能にする。

ABSTRACT

Graph Neural Networks (GNNs) have proven to excel in predictive modeling tasks where the underlying data is a graph. However, as GNNs are extensively used in human-centered applications, the issue of fairness has arisen. While edge deletion is a common method used to promote fairness in GNNs, it fails to consider when data is inherently missing fair connections. In this work we consider the unexplored method of edge addition, accompanied by deletion, to promote fairness. We propose two model-agnostic algorithms to perform edge editing: a brute force approach and a continuous approximation approach, FairEdit. FairEdit performs efficient edge editing by leveraging gradient information of a fairness loss to find edges that improve fairness. We find that FairEdit outperforms standard training for many data sets and GNN methods, while performing comparably to many state-of-the-art methods, demonstrating FairEdit's ability to improve fairness across many domains and models.

研究の動機と目的

• 歴史的バイアス（例えば、グループ間の接続欠如）を是正するため、グラフ構造を変更することでGNNにおける公平性を向上させること。
• エッジ削除に加えてエッジ追加を、バイアスのかかっているグラフデータにおける公平性向上の補完的戦略として検討すること。
• 勾配情報を活用して効率的なグラフ編集を可能にする、スケーラブルでモデルに依存しない手法を開発すること。
• 異なるGNNアーキテクチャが公平性向上のためのグラフ編集とどのように相互作用するかを評価すること。
• グラフ編集がモデルの性能を低下させることなく公平性を向上させられることを実証すること。

提案手法

• FairEditは、公平性損失を最小化しつつ予測精度を保持するように、グラフ編集を最適化問題として定式化する。
• 離散的グラフ編集空間の連続的リラクゼーションを導入し、エッジ追加および削除の微分可能近似を用いて勾配ベースの最適化を可能にする。
• エッジ重みに関する公平性損失の勾配を計算し、最も影響力のある編集を特定する。
• グリーディで反復的なアプローチを用いて、公平性を最も向上させる上位k個のエッジ編集を選択・適用する。
• モデルに依存しないアプローチであり、アーキテクチャの変更なしに任意のGNNアーキテクチャと統合可能である。
• 2つのバージョンを提案：小規模グラフ向けのブルートフォース法と、スケーラビリティを重視した連続的近似（FairEdit）

実験結果

リサーチクエスチョン

• RQ1 エッジ削除に加えてエッジ追加が、バイアスのかかっているグラフデータで学習されたGNNにおける公平性を顕著に向上させ得るか？
• RQ2 勾配近似によるグラフ編集の連続的リラクゼーションが、公平性および効率性にどのように影響を与えるか？
• RQ3 どのGNNアーキテクチャが、公平性と性能の両面でグラフ編集から最も利益を得られるか？
• RQ4 FairEditは、予測精度を維持または向上させながら、最先端の公平性手法を上回る公平性指標を達成できるか？
• RQ5 同質性やグループ間接続欠如といった構造的バイアスが、GNNにおける公平性にどのように影響を与えるか？

主な発見

• FairEditは、複数のデータセットおよびGNNモデルにおいて、標準的な学習法よりも公平性指標で優れた結果を示し、特にデモグラフィック差を顕著に低減した。
• ドイツのクレジットデータセットでは、FairEditは公平性（ΔSP ↓ 0.448）を向上させつつ、ベースラインGCN（F1: 0.646）と比較して競争力のあるF1スコア（0.692）を維持した。
• リシジビズムデータセットでは、FairEditがΔSP: 0.078およびΔEO: 0.014を達成し、標準的なGCN（ΔSP: 0.099、ΔEO: 0.046）を顕著に上回った。
• GraphSAGEは、すべての学習手法において、公平性の面で他のGNNよりも優れていた。これは、公平性に有利な構造的特徴を内蔵している可能性を示唆する。
• 連続的リラクゼーション（FairEdit）は、FairGNN や Nifty といった最先端の手法と同等の公平性を達成したが、ブルートフォース編集よりもスケーラビリティに優れた。
• レドラインイングに影響を受ける金融ネットワークのような、高い歴史的バイアスを有するデータセットに対しても、本手法は頑健であることが示された。