[论文解读] Say No to the Discrimination: Learning Fair Graph Neural Networks with Limited Sensitive Attribute Information

Enyan Dai, Suhang Wang|arXiv (Cornell University)|Sep 3, 2020

Ethics and Social Impacts of AI参考文献 51被引用 13

一句话总结

该论文提出 FairGNN，一种新颖的框架，通过使用有限的敏感属性信息来减轻图神经网络中的偏见。通过采用敏感属性估计器，并结合对抗性去偏与协方差约束，FairGNN 在仅使用稀疏敏感属性标签的情况下，仍能显著提升公平性，同时保持较高的节点分类准确率。

ABSTRACT

Graph neural networks (GNNs) have shown great power in modeling graph structured data. However, similar to other machine learning models, GNNs may make predictions biased on protected sensitive attributes, e.g., skin color and gender. Because machine learning algorithms including GNNs are trained to reflect the distribution of the training data which often contains historical bias towards sensitive attributes. In addition, the discrimination in GNNs can be magnified by graph structures and the message-passing mechanism. As a result, the applications of GNNs in sensitive domains such as crime rate prediction would be largely limited. Though extensive studies of fair classification have been conducted on i.i.d data, methods to address the problem of discrimination on non-i.i.d data are rather limited. Furthermore, the practical scenario of sparse annotations in sensitive attributes is rarely considered in existing works. Therefore, we study the novel and important problem of learning fair GNNs with limited sensitive attribute information. FairGNN is proposed to eliminate the bias of GNNs whilst maintaining high node classification accuracy by leveraging graph structures and limited sensitive information. Our theoretical analysis shows that FairGNN can ensure the fairness of GNNs under mild conditions given limited nodes with known sensitive attributes. Extensive experiments on real-world datasets also demonstrate the effectiveness of FairGNN in debiasing and keeping high accuracy.

研究动机与目标

• 解决在仅有有限敏感属性可用时，图神经网络中公平性问题的关键挑战。
• 缓解图结构和消息传递机制导致的偏见放大问题。
• 开发一种在敏感属性监督稀疏的情况下，既能保持高分类准确率又能确保公平性的方法。
• 实现公平图神经网络在现实应用（如职位排序和犯罪预测）中的实际部署。

提出的方法

• 引入敏感属性估计器，通过引入噪声来预测缺失的敏感属性，从而在标注数据有限的情况下实现公平训练。
• 应用对抗性学习，将敏感属性与节点表征解耦，降低预测对受保护特征的依赖。
• 施加协方差约束，确保不同敏感属性群体的表征分布保持不变。
• 将这些组件整合到统一的图神经网络训练流程中，联合优化准确率与公平性。
• 模型采用基于 GAT 的架构，并结合可微估计器，以处理噪声大且不完整的敏感属性信息。
• 通过调优超参数 α（判别器强度）和 β（协方差正则化强度），在公平性与性能之间取得平衡。

实验结果

研究问题

• RQ1 当仅有少量节点的敏感属性已知时，GNN 框架能否实现公平性？
• RQ2 如何利用图结构和消息传递机制来减少 GNN 预测中的偏见？
• RQ3 在敏感属性监督有限的条件下，公平性与分类准确率之间的权衡如何？
• RQ4 所提出方法对已知敏感属性标签集大小变化的鲁棒性如何？
• RQ5 何种超参数设置可在不降低模型性能的前提下实现最优公平性？

主要发现

• FairGNN 在所有数据集上显著降低了人口统计学平等差异（ΔSP），与基线 GNN 相比，ΔSP 最多降低 60%。
• 在 Pokec-z 数据集上，当仅有 500 个已标注的敏感属性时，FairGAT 仍能保持超过 90% 的 ROC AUC。
• 当已标注敏感属性数量增至 2000 时，FairGAT 的分类性能保持稳定或略有提升，而基线模型在更强正则化下性能下降。
• 参数敏感性分析表明，当 α ∈ [0.001, 0.01] 且 β ∈ [5, 20] 时，模型性能达到最优，公平性与准确率实现良好平衡。
• 即使在敏感属性估计存在噪声和不完整的情况下，该方法仍能有效减少偏见，表现出对数据稀疏性的强鲁棒性。
• 理论分析证实，当仅提供有限敏感属性时，FairGNN 在温和条件下可确保公平性。