[论文解读] FairGNN: Eliminating the Discrimination in Graph Neural Networks with Limited Sensitive Attribute Information.

Enyan Dai, Suhang Wang|arXiv (Cornell University)|Sep 3, 2020

Ethics and Social Impacts of AI参考文献 74被引用 8

一句话总结

FairGNN 提出了一种新颖的框架，通过利用有限的敏感属性信息来缓解图神经网络中的偏见。通过结合图结构和一种公平感知的消息传递机制，即使仅少数节点具有标记的敏感属性，该方法也能在最小化准确率下降的前提下实现最先进水平的公平性。

ABSTRACT

Graph neural networks (GNNs) have shown great power in modeling graph structured data. However, similar to other machine learning models, GNNs may make predictions biased on protected sensitive attributes, e.g., skin color, gender, and nationality. Because machine learning algorithms including GNNs are trained to faithfully reflect the distribution of the training data which often contains historical bias towards sensitive attributes. In addition, the discrimination in GNNs can be magnified by graph structures and the message-passing mechanism. As a result, the applications of GNNs in sensitive domains such as crime rate prediction would be largely limited. Though extensive studies of fair classification have been conducted on i.i.d data, methods to address the problem of discrimination on non-i.i.d data are rather limited. Furthermore, the practical scenario of sparse annotations in sensitive attributes is rarely considered in existing works. Therefore, we study the novel and important problem of learning fair GNNs with limited sensitive attribute information. FairGNN is proposed to eliminate the bias of GNNs whilst maintaining high node classification accuracy by leveraging graph structures and limited sensitive information. Our theoretical analysis shows that FairGNN can ensure the fairness of GNNs under mild conditions given limited nodes with known sensitive attributes. Extensive experiments on real-world datasets also demonstrate the effectiveness of FairGNN in debiasing and keeping high accuracy.

研究动机与目标

• 弥合非独立同分布（non-i.i.d.）图结构数据在公平机器学习中的关键空白，因为现有适用于 i.i.d. 数据的方法不适用。
• 解决 GNN 中的歧视问题，该问题可能因图消息传递和结构偏见而被放大。
• 开发一种在稀疏敏感属性标注这一现实约束下仍能有效运行的公平 GNN 框架。
• 在不牺牲预测性能的前提下确保公平性，同时保持较高的节点分类准确率。
• 从理论和实证上验证：仅需少量标记的敏感属性即可实现公平性。

提出的方法

• 引入一种公平感知的消息传递机制，在 GNN 训练过程中整合有限的敏感属性信息。
• 利用图结构将公平性约束传播至各节点，即使仅部分节点具有已知的敏感属性。
• 制定一种正则化损失函数，基于敏感属性惩罚预测差异，同时保持模型准确率。
• 应用一种公平正则化项，鼓励具有相同敏感属性的节点获得相似的预测结果，尤其在低监督设置下。
• 利用图的拓扑结构将公平信号从已标注节点传播至未标注节点，从而减少对大量敏感属性标注的依赖。
• 理论分析证明：当仅有少量节点具有已知敏感属性时，FairGNN 在温和条件下可确保公平性。

实验结果

研究问题

• RQ1 当仅有限访问敏感属性标签时，能否有效实现 GNN 中的公平性？
• RQ2 图结构在 GNN 中如何影响偏见的传播与缓解？
• RQ3 FairGNN 在减少预测不公平性的同时，能在多大程度上保持高分类准确率？
• RQ4 在敏感属性稀疏监督下，能否为 GNN 中的公平性提供理论保证？
• RQ5 FairGNN 与现有公平学习方法相比，在非独立同分布图设置下的表现如何？

主要发现

• 即使仅少数节点具有已知的敏感属性，FairGNN 也能显著降低 GNN 中的预测偏见。
• 该模型保持了较高的节点分类准确率，与标准 GNN 相比性能下降极小。
• 理论分析确认：当仅有有限敏感属性可用时，FairGNN 在温和假设下可确保公平性。
• 在真实世界数据集上的大量实验表明，FairGNN 在多个基准设置下均一致提升了公平性度量。
• FairGNN 在公平性和准确率方面均优于现有公平学习基线方法，尤其在低监督场景下表现更优。
• 图结构有效放大了公平信号，使得即使在敏感属性标注稀疏的情况下也能实现稳健的偏见缓解。