[论文解读] Unraveling Privacy Risks of Individual Fairness in Graph Neural Networks

He Zhang, Xingliang Yuan+1 more|arXiv (Cornell University)|Jan 30, 2023

Advanced Memory and Neural Computing被引用 12

一句话总结

本论文研究在GNN中提高个体公平性如何影响边缘隐私，并提出PPFR，一种将公平性感知重新加权与隐私感知扰动相结合的再训练框架，以在性能、公平性和隐私之间取得平衡。

ABSTRACT

Graph neural networks (GNNs) have gained significant attraction due to their expansive real-world applications. To build trustworthy GNNs, two aspects - fairness and privacy - have emerged as critical considerations. Previous studies have separately examined the fairness and privacy aspects of GNNs, revealing their trade-off with GNN performance. Yet, the interplay between these two aspects remains unexplored. In this paper, we pioneer the exploration of the interaction between the privacy risks of edge leakage and the individual fairness of a GNN. Our theoretical analysis unravels that edge privacy risks unfortunately escalate when the nodes' individual fairness improves. Such an issue hinders the accomplishment of privacy and fairness of GNNs at the same time. To balance fairness and privacy, we carefully introduce fairness-aware loss reweighting based on influence function and privacy-aware graph structure perturbation modules within a fine-tuning mechanism. Experimental results underscore the effectiveness of our approach in achieving GNN fairness with limited performance compromise and controlled privacy risks. This work contributes to the comprehensively developing trustworthy GNNs by simultaneously addressing both fairness and privacy aspects.

研究动机与目标

• 激发对 GNN 公平性与边缘隐私之间相互作用的研究——这是现实世界图应用中两个关键的信任因素。
• 通过实证证明提高个体层面的公平性可能增加 GNN 的边缘隐私风险。
• 使用影响函数和皮尔逊相关系数来量化权衡，将公平性与隐私联系起来。
• 提出一种再训练框架，在有限的性能损失和受限的隐私泄漏下实现公平性。

提出的方法

• 使用影响函数近似训练样本权重如何影响模型参数和目标指标。
• 定义并计算 f_bias（个体公平性）和 f_risk（隐私风险），以在共享参数空间中分析它们的相互作用。
• 通过对训练样本对 f_bias 和 f_risk 的影响的皮尔逊相关来量化公平性与隐私之间的交互。
• 引入隐私感知扰动（异质性边添加）以降低边缘泄露风险。
• 通过平方约束线性规划（QCLP）开发公平性感知的重新加权，以调整训练样本权重。
• 在带权重损失的扰动图上对 GNN 进行再训练，以在性能、公平性和隐私之间取得平衡。

实验结果

研究问题

• RQ1 提高单个节点的公平性如何影响 GNNs 的边缘隐私风险？
• RQ2 是否可以使用影响函数和相关性指标来量化公平性与隐私之间的相互作用？
• RQ3 我们是否可以设计一种再训练程序，在有限的性能损失和受限的隐私泄漏条件下提升公平性？

主要发现

• 在研究数据集上，随着个体公平性的提升，边缘隐私风险（边缘泄漏）增加。
• 将影响函数与皮尔逊相关结合，提供公平性与隐私交互的定量度量。
• 将公平性感知的重新加权与隐私感知的图扰动相结合的 PPFR 框架，可以在有限的性能损失和受限的隐私风险下提升公平性。
• 通过约束权重幅值和效用损失的 QCLP 获得公平性感知的重新加权。
• 隐私感知扰动通过扰动图结构来降低泄漏，同时不过度损害准确性。