[论文解读] Debiasing representations by removing unwanted variation due to protected attributes

Amanda Bower, Laura Niss+2 more|arXiv (Cornell University)|Jul 2, 2018

Explainable Artificial Intelligence (XAI)参考文献 10被引用 6

一句话总结

本文提出了一种基于回归的预处理方法，通过消除受保护属性（如种族）引起的非期望变异，来减轻机器学习表征中的偏差。该方法受基因组学中RUV框架启发，采用矩阵变异因子模型，实现了第一阶条件公平性，显著降低了量刑再犯风险评分中的种族差异，同时保持了最小的准确率损失。

ABSTRACT

We propose a regression-based approach to removing implicit biases in representations. On tasks where the protected attribute is observed, the method is statistically more efficient than known approaches. Further, we show that this approach leads to debiased representations that satisfy a first order approximation of conditional parity. Finally, we demonstrate the efficacy of the proposed approach by reducing racial bias in recidivism risk scores.

研究动机与目标

• 解决机器学习表征中的算法偏差，特别是在刑事司法风险评估中的应用。
• 减少在再犯预测中不同种族群体之间假阳性和假阴性率的差异。
• 开发一种预处理方法，去除受保护属性（如种族）引起的非期望变异，而无需重新训练下游模型。
• 确保去偏后的表征满足条件公平性这一公平性准则的第一阶近似。
• 在真实世界数据（特别是ProPublica COMPAS数据集）上展示该方法的有效性。

提出的方法

• 使用矩阵变异因子模型建模表征，其中 Y = XA^T + ZB^T + E，X 为受保护属性（如种族），Z 为允许属性，E 为误差项。
• 假设允许属性 Z 与受保护属性 X 之间存在线性关系，即 Z = XΓ^T + W，从而允许 X 与 Z 之间存在混杂。
• 通过将控制变量（Z）视为未观测但通过潜在因子建模，利用 Y 对 X 的回归来估计系数矩阵 A。
• 通过改进的RUV方法，对 Y 中受保护属性 X 的影响进行回归去除，实现条件去偏，即在给定 Z 的条件下去除 X 的影响。
• 应用去偏变换 Y_db = Y - XÂ，其中 Â 是 X 在预测 Y 时的估计系数，以生成在给定 Z 条件下与受保护属性不相关的表征。
• 通过在去偏特征上应用逻辑回归来预测再犯，比较去偏前后的公平性度量以验证方法。

实验结果

研究问题

• RQ1 基于回归的预处理方法是否能有效降低再犯风险评分中的种族偏差，同时不牺牲预测性能？
• RQ2 去除受保护属性引起的变异后，是否能获得满足公平性度量中条件公平性的表征？
• RQ3 与现有去偏方法相比，该方法在统计效率和公平性提升方面表现如何？
• RQ4 该方法在多大程度上减少了非裔与非西班牙裔白人被告之间假阳性率和假阴性率的差异？
• RQ5 当允许属性（Z）未被观测时，该方法是否仍能有效应用，仅依赖于观测到的受保护属性（X）和表征（Y）？

主要发现

• 在使用第80百分位数阈值时，去偏后的逻辑回归模型将非裔与非西班牙裔白人之间的假阴性率（FNR）差异从近20%降低至4%。
• 去偏后，非裔的假阳性率（FPR）差异从11%降至9%，尽管非西班牙裔白人组的FPR略有上升。
• 去偏数据上的模型准确率保持在65%，与原始数据（50百分位数时从67%降至65%）相比，性能损失极小，表明成本可接受。
• 非裔的再犯概率分布从原始表征中的右偏，转变为去偏表征后更加均衡。
• 该方法实现了条件公平性第一阶近似，因为去偏表征在给定允许属性的条件下与受保护属性条件不相关。
• 该方法在减少偏差方面表现出良好的统计效率和稳健性，尤其在刑事司法风险评估等高风险决策场景中。