[论文解读] Learning Fair Scoring Functions: Bipartite Ranking under ROC-based Fairness Constraints

Robin Vogel, Aurélien Bellet+1 more|arXiv (Cornell University)|Feb 19, 2020

Ethics and Social Impacts of AI参考文献 48被引用 14

一句话总结

本文提出了一种新颖的框架，用于在二元排序中学习公平的评分函数，通过直接在ROC曲线上施加公平性约束，确保阈值分类器在不同敏感群体中保持相似的真正例率（TPR）和假正例率（FPR）。该方法引入了基于ROC的公平性定义，建立了泛化界，并通过实验表明，该方法在一系列阈值下实现了公平决策，优于基于AUC的公平性方法，尤其在关键操作区域表现更优。

ABSTRACT

Many applications of AI involve scoring individuals using a learned function of their attributes. These predictive risk scores are then used to take decisions based on whether the score exceeds a certain threshold, which may vary depending on the context. The level of delegation granted to such systems in critical applications like credit lending and medical diagnosis will heavily depend on how questions of fairness can be answered. In this paper, we study fairness for the problem of learning scoring functions from binary labeled data, a classic learning task known as bipartite ranking. We argue that the functional nature of the ROC curve, the gold standard measure of ranking accuracy in this context, leads to several ways of formulating fairness constraints. We introduce general families of fairness definitions based on the AUC and on ROC curves, and show that our ROC-based constraints can be instantiated such that classifiers obtained by thresholding the scoring function satisfy classification fairness for a desired range of thresholds. We establish generalization bounds for scoring functions learned under such constraints, design practical learning algorithms and show the relevance our approach with numerical experiments on real and synthetic data.

研究动机与目标

• 解决在信贷发放和医疗诊断等高风险应用中用于决策的评分函数的公平性问题。
• 开发在一系列决策阈值下均具意义的公平性约束，而不仅限于单一点。
• 以功能型ROC曲线而非AUC等标量指标的形式形式化公平性。
• 为在基于ROC的公平性约束下学习的评分函数提供泛化界。
• 设计可实际应用的学习算法，在保持排序性能的同时强制执行这些约束。

提出的方法

• 提出基于完整ROC曲线而非仅AUC的一般性公平性定义家族。
• 定义公平性约束，以确保在一系列阈值下，不同敏感群体的TPR和FPR相等。
• 利用ROC曲线的功能特性，推导出在决策所依据的高分区域中对齐评分分布的约束。
• 提出一种学习算法，在基于ROC的公平性约束下优化排序性能（例如AUC）。
• 为在所提公平性约束下学习的评分函数建立泛化界。
• 采用带公平性约束的期望风险最小化，使用ROC公平性条件的松弛形式以实现可计算的优化。

实验结果

研究问题

• RQ1 是否可以超越AUC等标量汇总统计量，在二元排序中对公平性进行有意义的定义？
• RQ2 如何制定公平性约束，使其在一系列决策阈值下保持不变？
• RQ3 基于ROC的公平性约束能否使分类器在多个阈值下均实现TPR和FPR的公平性？
• RQ4 为在基于ROC的公平性约束下训练的评分函数能提供何种泛化保证？
• RQ5 在真实世界和合成数据中，基于ROC的公平性约束与基于AUC的公平性约束相比表现如何？

主要发现

• 所提出的基于ROC的公平性约束成功对齐了高分区域中的评分分布，确保在广泛阈值范围内，不同敏感群体的TPR和FPR保持公平。
• 在德国信贷数据集上，ROC约束模型相比无约束和AUC约束模型，显著降低了性别相关的假阴性率差异，尤其在高阈值下表现更优。
• 即使AUC值相近，ROC约束模型在各类阈值下的FPR和TPR公平性表现也优于AUC约束模型。
• 在Compas数据集上，基于ROC的方法在低FPR区域显著减少了种族相关的假阳性率和假阴性率差异，而这些区域通常是实际操作决策的依据。
• 本文推导的泛化界确保了公平性在部署时得以保持，而不仅限于训练数据。
• 实验表明，基于AUC的公平性可能掩盖在低FPR区域TPR和FPR的显著差异，而基于ROC的约束通过关注ROC曲线的功能行为解决了这一问题。