[论文解读] Fairness-Aware Node Representation Learning

Öykü Deniz Köse, Yanning Shen|arXiv (Cornell University)|Jun 9, 2021

Advanced Graph Neural Networks参考文献 51被引用 10

一句话总结

本文提出了一种公平感知的图增强方法，用于对比节点表征学习，通过基于公平性概念的自适应特征掩码和边删除来减少偏差。该方法在真实社交网络上实现了统计独立性与机会均等性方面的公平性提升，同时不损失分类准确率，是首个自适应、公平感知的对比学习图增强框架。

ABSTRACT

Node representation learning has demonstrated its effectiveness for various applications on graphs. Particularly, recent developments in contrastive learning have led to promising results in unsupervised node representation learning for a number of tasks. Despite the success of graph contrastive learning and consequent growing interest, fairness is largely under-explored in the field. To this end, this study addresses fairness issues in graph contrastive learning with fairness-aware graph augmentation designs, through adaptive feature masking and edge deletion. In the study, different fairness notions on graphs are introduced, which serve as guidelines for the proposed graph augmentations. Furthermore, theoretical analysis is provided to quantitatively prove that the proposed feature masking approach can reduce intrinsic bias. Experimental results on real social networks are presented to demonstrate that the proposed augmentations can enhance fairness in terms of statistical parity and equal opportunity, while providing comparable classification accuracy to state-of-the-art contrastive methods for node classification.

研究动机与目标

• 为解决图对比学习中缺乏公平性考量的问题，即模型可能放大图结构与特征中的偏差。
• 开发自适应的图增强方案，通过针对节点特征和拓扑中的敏感属性来减少内在偏差。
• 在图上引入新颖的公平性概念，以指导偏差减少增强方法的设计。
• 从理论和实证两方面验证自适应特征掩码可降低特征与敏感属性之间的相关性。
• 实现优于最先进对比方法的公平性指标（统计独立性、机会均等性），同时在节点分类任务中保持相当的准确率。

提出的方法

• 提出基于节点中心性与结构角色的自适应图增强方法，对特征和边进行自适应污染。
• 引入两种自适应边删除策略：基于度的策略与基于三角形的策略（基于局部聚类），以减少结构偏差。
• 应用自适应特征掩码，根据特征与敏感属性的相关性选择性地掩码特征，从而降低期望相关性。
• 理论分析证明，与非自适应掩码相比，自适应特征掩码可降低特征与敏感属性之间期望总样本相关系数（ρ）。
• 采用对比学习，每个节点生成两个增强视图，其中增强操作由公平性引导且计算开销轻量。
• 采用自监督对比目标训练节点表征，同时通过自适应增强设计最小化偏差传播。

实验结果

研究问题

• RQ1 自适应图增强是否能在不降低节点分类性能的前提下减少节点表征中的偏差？
• RQ2 自适应特征掩码与非自适应掩码相比，在降低节点特征与敏感属性之间相关性方面表现如何？
• RQ3 公平感知的边删除策略是否能改善统计独立性与机会均等性等公平性指标？
• RQ4 公平感知增强方法是否在公平性方面优于现有对比学习与公平感知基线方法，同时保持相当的准确率？
• RQ5 图上的不同公平性概念（如统计独立性、机会均等性）如何指导有效增强方法的设计？

主要发现

• 所提出的 FM + p^(deg) 与 FM + p^(T) 增强方法在 Pokec-z 上实现了最低的公平性差距：ΔSP = 2.50% 与 ΔEO = 2.18%，优于所有基线方法。
• 在 Pokec-n 上，FM + p^(deg) 实现 ΔSP = 4.39% 与 ΔEO = 6.05%，表明在不同数据集上均保持一致的公平性提升。
• 自适应特征掩码方案理论上证明可降低节点特征与敏感属性之间的期望相关性。
• 尽管提升了公平性，所提方法在分类准确率方面仍与最先进对比方法（如 GCA、GRACE）相当，例如 FM + p^(deg) 在 Pokec-n 上达到 66.42% 的准确率。
• NIFTY 是一种聚焦反事实公平性的公平感知方法，但在统计独立性与机会均等性方面表现较差，表明公平目标必须与特定公平性概念相一致。
• 所有对比学习基线方法均优于基于随机游走的方法（如 FairWalk），证实图拓扑会传播偏差，而所提增强方法能有效缓解该问题。