[论文解读] All of the Fairness for Edge Prediction with Optimal Transport

Charlotte Laclau, Ievgen Redko+2 more|arXiv (Cornell University)|Oct 30, 2020

Ethics and Social Impacts of AI参考文献 31被引用 13

一句话总结

本文提出了一种基于最优传输、与嵌入无关的方法，用于修复图邻接矩阵以实现公平的边预测，通过将敏感群体之间的节点分布对齐，平衡群体公平与个体公平。该方法实现了对公平性-准确率权衡的显式控制，减少了表示偏差和同配性，使得在不修改节点嵌入模型的情况下也能实现公平的下游链接预测。

ABSTRACT

Machine learning and data mining algorithms have been increasingly used recently to support decision-making systems in many areas of high societal importance such as healthcare, education, or security. While being very efficient in their predictive abilities, the deployed algorithms sometimes tend to learn an inductive model with a discriminative bias due to the presence of this latter in the learning sample. This problem gave rise to a new field of algorithmic fairness where the goal is to correct the discriminative bias introduced by a certain attribute in order to decorrelate it from the model's output. In this paper, we study the problem of fairness for the task of edge prediction in graphs, a largely underinvestigated scenario compared to a more popular setting of fair classification. To this end, we formulate the problem of fair edge prediction, analyze it theoretically, and propose an embedding-agnostic repairing procedure for the adjacency matrix of an arbitrary graph with a trade-off between the group and individual fairness. We experimentally show the versatility of our approach and its capacity to provide explicit control over different notions of fairness and prediction accuracy.

研究动机与目标

• 为解决关系数据挖掘中缺乏公平意识方法的问题，特别是图中的边预测问题。
• 通过分析敏感属性与图结构之间的分布依赖关系，形式化边预测中的群体公平与个体公平。
• 开发一种与下游节点嵌入技术无关的邻接矩阵修复机制。
• 在二分类和多分类设置下，为公平性与预测准确率之间的权衡提供显式控制。

提出的方法

• 该方法将公平边预测建模为一个联合分布对齐问题，利用最优传输（OT）最小化不同敏感群体之间的差异。
• 引入基于图拉普拉斯矩阵的正则化项，通过平滑邻近节点之间的边权转移来实现个体公平。
• 通过添加或调整边来修改邻接矩阵，以消除敏感属性与结构模式之间的相关性。
• 该方法与嵌入无关，使得修复后的矩阵可与任意节点嵌入模型（如Node2Vec、CNE）配合使用。
• 采用变分最优传输框架，计算最小化群体条件分布之间Wasserstein距离的最优传输方案。
• 通过最优传输修复公式的多分类扩展，支持二分类和多分类的敏感属性。

实验结果

研究问题

• RQ1 最优传输能否有效用于修复邻接矩阵，以实现在边预测任务中的群体公平？
• RQ2 如何通过结构正则化在图-based 边预测中实现个体公平？
• RQ3 修复后的邻接矩阵在多大程度上降低了从学习到的节点嵌入中推断敏感属性的能力？
• RQ4 拉普拉斯正则化参数对公平性和预测性能的影响如何？
• RQ5 该方法在不同图类型和敏感属性分布下，如何在保持预测准确性的同时实现公平性？

主要发现

• 所提出的方法显著降低了表示偏差（RB），在G1上AUC从0.92降至0.48，在G5上从0.95降至0.91，表明对敏感属性的推断接近随机水平。
• 同配性系数在G1上从0.74降至0.01，在G3上从0.71降至-0.03，表明修复后敏感属性不再与社区结构相关。
• 对于无偏的G2图，RB和同配性均保持稳定，证实该方法不会改变原本公平的图。
• 拉普拉斯正则化参数对有偏图（G1、G3）影响显著，但在不平衡或多分类设置下影响较小，表明在这些情况下存在局限性。
• 使用t-SNE的可视化结果表明，修复后的嵌入不再按敏感属性聚类，而原始图则存在此类聚类。
• 该方法保持了较高的边预测性能，所有测试数据集的AUC得分均保持竞争力，证明了其在公平性-准确率权衡上的有效性。