[论文解读] FairEdit: Preserving Fairness in Graph Neural Networks through Greedy Graph Editing

Donald Loveland, Jiayi Pan+2 more|arXiv (Cornell University)|Jan 10, 2022

Ethics and Social Impacts of AI被引用 7

一句话总结

FairEdit 提出了一种模型无关的方法，通过基于梯度的优化策略性地在图结构中添加或删除边，以提升图神经网络（GNN）的公平性。它引入了离散图编辑空间的连续松弛，实现了对多种 GNN 架构和数据集的高效、可扩展的公平性改进，同时不牺牲预测性能。

ABSTRACT

Graph Neural Networks (GNNs) have proven to excel in predictive modeling tasks where the underlying data is a graph. However, as GNNs are extensively used in human-centered applications, the issue of fairness has arisen. While edge deletion is a common method used to promote fairness in GNNs, it fails to consider when data is inherently missing fair connections. In this work we consider the unexplored method of edge addition, accompanied by deletion, to promote fairness. We propose two model-agnostic algorithms to perform edge editing: a brute force approach and a continuous approximation approach, FairEdit. FairEdit performs efficient edge editing by leveraging gradient information of a fairness loss to find edges that improve fairness. We find that FairEdit outperforms standard training for many data sets and GNN methods, while performing comparably to many state-of-the-art methods, demonstrating FairEdit's ability to improve fairness across many domains and models.

研究动机与目标

• 通过修改图结构来纠正历史偏见（如跨群体连接缺失）以解决 GNN 中的公平性问题。
• 探索边添加作为边删除的补充策略，以促进有偏图数据中的公平性。
• 开发一种可扩展的、模型无关的方法，利用梯度信息实现高效的图编辑。
• 评估不同 GNN 架构与公平性增强图编辑的交互方式。
• 证明图编辑可以在不降低模型性能的情况下提升公平性。

提出的方法

• FairEdit 将图编辑建模为一个优化问题，旨在最小化公平性损失的同时保持预测准确性。
• 它引入了离散图编辑空间的连续松弛，通过边添加和删除的可微分近似实现基于梯度的优化。
• 该方法计算公平性损失相对于边权重的梯度，以识别最具影响力的编辑操作。
• 它采用贪心的迭代方法，选择并应用能最大程度提升公平性的 top-k 边编辑。
• 该方法具有模型无关性，可无缝集成到任意 GNN 架构中，无需修改网络结构。
• 提出两种变体：适用于小图的暴力方法和用于可扩展性的连续近似（FairEdit）

实验结果

研究问题

• RQ1 在有偏图数据上训练的 GNN 中，边添加是否能显著提升公平性，与边删除并列？
• RQ2 通过梯度近似实现的图编辑连续松弛对公平性和效率有何影响？
• RQ3 哪些 GNN 架构在公平性和性能方面最受益于图编辑？
• RQ4 FairEdit 是否在公平性指标上优于最先进方法，同时保持或提升预测准确性？
• RQ5 结构偏见（如同质性及缺失的跨群体边）如何影响 GNN 中的公平性？

主要发现

• FairEdit 在多个数据集和 GNN 模型中均优于标准训练方法，在公平性指标上表现更优，尤其显著降低了人口统计差异。
• 在德国信用数据集上，FairEdit 将公平性提升（ΔSP ↓ 0.448），同时保持了具有竞争力的 F1 分数（0.692），优于基线 GCN（F1: 0.646）。
• 在再犯预测数据集上，FairEdit 实现了 ΔSP 为 0.078 和 ΔEO 为 0.014，显著优于标准 GCN（ΔSP: 0.099，ΔEO: 0.046）。
• GraphSAGE 在所有训练方法中始终在公平性方面表现最优，表明其在公平性方面具有固有的结构优势。
• 连续松弛方法（FairEdit）在公平性方面与最先进方法（如 FairGNN 和 Nifty）相当，同时比暴力编辑更具可扩展性。
• 该方法在多种数据集上表现出鲁棒性，包括受红线政策影响严重的金融网络等高历史偏见数据集。