[论文解读] The Price of Fair PCA: One Extra dimension

Samira Samadi, Uthaipon Tantipongpipat+3 more|arXiv (Cornell University)|Oct 31, 2018

Statistical Methods and Inference被引用 60

一句话总结

本文提出 Fair PCA，一种多项式时间算法，在降维的同时确保两个群体（如男性与女性或不同教育水平）的重建误差相似。它表明标准 PCA 可能会偏向某一特定群体，而 Fair PCA 仅需额外一个维度即可实现近乎最优的公平性，在真实世界数据集中显著提升了代表性不足群体的保真度。

ABSTRACT

We investigate whether the standard dimensionality reduction technique of PCA inadvertently produces data representations with different fidelity for two different populations. We show on several real-world data sets, PCA has higher reconstruction error on population A than on B (for example, women versus men or lower- versus higher-educated individuals). This can happen even when the data set has a similar number of samples from A and B. This motivates our study of dimensionality reduction techniques which maintain similar fidelity for A and B. We define the notion of Fair PCA and give a polynomial-time algorithm for finding a low dimensional representation of the data which is nearly-optimal with respect to this measure. Finally, we show on real-world data sets that our algorithm can be used to efficiently generate a fair low dimensional representation of the data.

研究动机与目标

• 调查标准 PCA 是否会无意中对某一社会人口群体产生比另一群体更高的重建误差。
• 在降维中定义一种形式化的公平性概念，称为 Fair PCA，以确保不同群体之间的保真度平衡。
• 开发一种多项式时间算法，以找到具有近乎最优公平性的低维表示。
• 通过实证验证 Fair PCA 在真实世界数据集中是否能改善不同群体之间重建误差的平衡性。

提出的方法

• 提出 Fair PCA 作为 PCA 的一种公平意识变体，通过最小化两个群体间最大的重建误差来实现。
• 将 Fair PCA 建模为带有重建误差公平性约束的凸优化问题。
• 通过在公平性阈值上使用二分搜索，高效求解该优化问题。
• 引入对标准 PCA 解的单维扩展，以在最小维度成本下实现公平性。
• 通过利用凸优化技术，确保算法在多项式时间内运行。
• 将该方法应用于真实世界数据集，以评估其公平性与重建性能。

实验结果

研究问题

• RQ1 即使在样本量平衡的情况下，标准 PCA 是否仍会对某一社会人口群体产生显著更高的重建误差？
• RQ2 能否设计一种降维方法，以确保两个群体之间的重建保真度相似？
• RQ3 实现公平降维所需的最小额外维度是多少？
• RQ4 与标准 PCA 相比，所提出的 Fair PCA 算法在公平性与重建误差方面表现如何？

主要发现

• 即使群体规模平衡，标准 PCA 仍对某一社会人口群体（如女性或受教育程度较低者）表现出更高的重建误差。
• Fair PCA 算法仅在标准 PCA 的基础上增加一个维度，即可实现近乎最优的公平性。
• 在真实世界数据集中，Fair PCA 显著降低了不同群体之间重建误差的差异。
• 该算法在多项式时间内运行，使其适用于实际应用。