[论文解读] Projection to Fairness in Statistical Learning.

Thibaut Le Gouic, Jean–Michel Loubes+1 more|arXiv (Cornell University)|May 24, 2020

Statistical Mechanics and Entropy参考文献 16被引用 13

一句话总结

本文提出一种方法，通过利用最优传输理论，将任意回归估计器投影到其最近的公平版本，从而在最小化预测准确性损失的同时实现公平性。该方法实现了高效的后处理，并精确量化了公平性与准确性的权衡。

ABSTRACT

In the context of regression, we consider the fundamental question of making an estimator fair while preserving its prediction accuracy as much as possible. To that end, we define its projection to fairness as its closest fair estimator in a sense that reflects prediction accuracy. Our methodology leverages tools from optimal transport to construct efficiently the projection to fairness of any given estimator as a simple post-processing step. Moreover, our approach precisely quantifies the cost of fairness, measured in terms of prediction accuracy.

研究动机与目标

• 解决在不显著降低预测准确性的情况下使回归估计器公平的根本性挑战。
• 定义一种数学上严谨的‘最近公平估计器’概念，以保持预测性能。
• 开发一种计算高效的后处理技术，以实现在回归模型中的公平性。
• 精确量化公平性带来的准确性损失。

提出的方法

• 本文将投影至公平性定义为在反映预测准确性的度量下，最接近公平估计器的解，使用最优传输来度量距离。
• 将公平性约束表述为条件矩约束，确保预测结果与敏感属性无关。
• 通过源自最优传输的凸优化问题计算投影，从而实现高效的数值求解。
• 该方法作为后处理步骤运行，适用于任何预训练的回归模型。
• 该框架可通过原始估计器与投影估计器之间的距离，精确量化公平性带来的准确性成本。
• 该方法为分布无关方法，无需重新训练原始模型。

实验结果

研究问题

• RQ1 如何以一种保持预测准确性的方法，定义给定回归模型的‘最近’公平估计器？
• RQ2 在回归中施加公平性约束时，预测准确性的最小可能退化是多少？
• RQ3 我们能否在不重新训练的情况下高效计算估计器的公平投影？
• RQ4 如何利用最优传输以系统化的方式建模公平性与准确性之间的权衡？

主要发现

• 投影至公平性被唯一定义为在公平性约束下最小化预测误差的解，以最优传输作为底层度量。
• 该方法可精确计算公平性与准确性之间的权衡，量化实现公平性所必需的最小准确性损失。
• 投影可作为后处理步骤高效计算，且独立于原始模型的训练过程。
• 该框架适用于任何回归估计器，且无需对模型的函数形式做假设。
• 该方法提供了一种分布无关的公平性校准方法，确保在不同数据分布下的鲁棒性。
• 公平性成本可精确测量，且取决于敏感属性与结果之间的依赖程度。