[论文解读] Principal Fairness: Removing Bias via Projections

Aris Anagnostopoulos, Luca Becchetti+3 more|arXiv (Cornell University)|May 31, 2019

Complexity and Algorithms in Graphs参考文献 43被引用 6

一句话总结

本文提出了主公平性（Principal Fairness），一种基于谱方法的算法，通过将图数据正交投影到公平子空间，以消除偏差，从而实现对密集且平衡的子图的发现。该研究提出了一种新颖的谱算法——公平配对扫描（Fair Paired Sweep, FPS），在小集合扩展假设下，该算法在实际性能上表现出色，并具备理论保证，能够实现高密度且公平的子图。

ABSTRACT

Reducing hidden bias in the data and ensuring fairness in algorithmic data analysis has recently received significant attention. We complement several recent papers in this line of research by introducing a general method to reduce bias in the data through random projections in a "fair" subspace. We apply this method to densest subgraph problem. For densest subgraph, our approach based on fair projections allows to recover both theoretically and empirically an almost optimal, fair, dense subgraph hidden in the input data. We also show that, under the small set expansion hypothesis, approximating this problem beyond a factor of 2 is NP-hard and we show a polynomial time algorithm with a matching approximation bound.

研究动机与目标

• 解决在图挖掘中识别在两个标记组（如性别、种族）之间保持平衡的密集子图的挑战，以防止不公平的代表性。
• 通过引入一种基于投影的谱松弛方法，克服公平最密子图问题的不可解性，从而强制实现公平性。
• 开发一种实用且可扩展的算法，在保持高子图密度的同时，确保两类标签的均衡表示，即使在标签不平衡的图中亦然。
• 证明在真实数据集（如Amazon和PolBooks）中，投影矩阵上的谱方法优于传统的组合近似算法。
• 通过证明在小集合扩展假设下，将公平最密子图的近似比超过2倍是NP难的，从而确立理论极限。

提出的方法

• 将图的邻接矩阵投影到与表示均等标签分布的向量正交的子空间上，使用公式 $ (I - ff^T)A(I - ff^T) $，其中 $ f $ 为归一化的公平表示向量。
• 通过计算投影矩阵的主特征向量，应用谱松弛方法，以指导子图构建中的节点选择。
• 采用改进的扫描策略——公平配对扫描（FPS），通过分别对每类标签排序并各选取前 $ s $ 个节点，实现每类中选择相等数量的节点。
• 引入一种“单次扫描”变体（FSS），其采用相同的投影方式，但使用标准的基于特征向量的舍入策略，不进行配对选择。
• 在包括无约束最密子图（2-DSG）在内的多种算法之间进行性能比较，后者可能违反公平性；同时比较在原始矩阵和投影矩阵上的谱方法。
• 对不同实例的子图密度进行归一化，以实现公平比较，以最优密度作为归一化基准。

实验结果

研究问题

• RQ1 我们能否设计一种可扩展且高效的算法，以在图中找到在两个标记组之间保持平衡的密集子图？
• RQ2 公平最密子图问题的理论近似极限是什么？在合理的复杂性假设下，我们能否达到该极限？
• RQ3 在投影后的公平子空间上应用谱松弛，是否在实践中优于组合近似算法？
• RQ4 在公平性和密度方面，投影矩阵上的谱方法与原始矩阵上的谱方法相比表现如何？
• RQ5 在图的何种结构条件下，可以通过基于投影的方法恢复出高质量、公平且密集的子图？

主要发现

• 在Amazon共购买数据集上，公平配对扫描（FPS）算法在投影邻接矩阵上应用谱选择，实现了最高的中位数归一化密度。
• FPS和FSS（公平谱扫描）在性能上均优于SS（标准谱扫描）和PS（在原始矩阵上进行配对扫描），证实了投影在强制实现公平性方面的有效性。
• 尽管2-DFSG组合算法具有理论上的2-近似保证，但在3.08%的Amazon实例中未能返回公平解，而FPS和PS始终返回公平解。
• SS在1.03%的情况下产生不公平解，且输出分布偏向低密度结果，表明标准谱方法无法自然地强制实现平衡。
• 在小集合扩展假设下，将公平最密子图的近似比超过2倍是NP难的，因此2-近似界是紧致的。
• 在实践中，投影矩阵上的谱方法（FPS）始终优于组合2-DFSG算法，表明对于该问题，谱松弛比组合近似更有效。