[论文解读] The price for fairness in a regression framework.

Thibaut Le Gouic, Jean–Michel Loubes|arXiv (Cornell University)|May 24, 2020

Philosophy and History of Science参考文献 7被引用 1

一句话总结

本文提出一种后处理方法，通过利用最优传输理论，将任意回归估计器投影到公平估计器空间中，同时最小化预测准确率的损失。该方法量化了公平性的精确成本，作为性能下降的可测量指标，从而在最小化准确率损失的前提下实现更公平的模型。

ABSTRACT

In the context of regression, we consider the fundamental question of making an estimator fair while preserving its prediction accuracy as much as possible. To that end, we define its projection to fairness as its closest fair estimator in a sense that reflects prediction accuracy. Our methodology leverages tools from optimal transport to construct efficiently the projection to fairness of any given estimator as a simple post-processing step. Moreover, our approach precisely quantifies the cost of fairness, measured in terms of prediction accuracy.

研究动机与目标

• 解决回归模型中公平性与预测准确率之间的根本权衡问题。
• 定义一种数学上严谨的‘最近公平估计器’概念，以保持预测准确率。
• 开发一种高效的后处理技术，实现公平性而无需重新训练模型。
• 精确量化公平性在预测准确率损失方面的成本。
• 提供一种适用于任意回归估计器的通用框架。

提出的方法

• 本文将公平性投影定义为希尔伯特空间中与原始估计器L2距离最小的最近公平估计器。
• 利用最优传输工具高效计算该投影，将公平性约束视为参数空间中的几何约束。
• 该方法作为后处理步骤运行，无需重新训练即可将任意给定估计器转换为公平版本。
• 公平性约束被表述为条件期望约束，根据上下文确保统计均等或相等机会。
• 通过凸优化问题计算投影，以在公平性与与原始估计器的接近度之间取得平衡。
• 该框架允许精确量化准确率成本，即原始估计器与公平估计器之间差值的平方L2范数。

实验结果

研究问题

• RQ1 为使回归估计器实现公平，预测准确率的最小退化程度是多少？
• RQ2 如何在不重新训练的情况下对现有估计器施加公平性？
• RQ3 在预测准确率方面，与给定原始估计器最接近的最优公平估计器是什么？
• RQ4 如何精确测量并比较不同模型间公平性的成本？
• RQ5 最优传输理论能否有效应用于回归中的公平性投影？

主要发现

• 公平性投影在L2意义下唯一定义为最近的公平估计器，确保最小准确率损失。
• 该方法可精确计算公平性成本，即原始估计器与公平估计器之间差值的平方L2范数。
• 该方法计算高效，可作为后处理步骤应用于任意回归模型。
• 该框架提供了公平性与准确率之间的定量权衡曲线，支持明智的模型选择。
• 最优传输框架可实现精确且可扩展的公平性投影，即使在高维设置下亦适用。
• 该方法表明，公平性可在可预测且有界范围内的预测性能损失下实现。