[论文解读] Fairness risk measures

Robert C. Williamson, Aditya Krishna Menon|arXiv (Cornell University)|May 24, 2019

Health Systems, Economic Evaluations, Quality of Life被引用 29

一句话总结

本文提出了一种新的公平性定义，确保由敏感特征定义的子群体之间预期损失的可比性，将先前的工作推广至处理分类和实值敏感属性。通过将公平性与数学金融中的风险度量联系起来，该方法引入了一种基于条件风险价值（CVaR）的凸优化目标，实现了高效且可扩展的公平学习，并具备强有力的理论保证。

ABSTRACT

Ensuring that classifiers are non-discriminatory or fair with respect to a sensitive feature (e.g., race or gender) is a topical problem. Progress in this task requires fixing a definition of fairness, and there have been several proposals in this regard over the past few years. Several of these, however, assume either binary sensitive features (thus precluding categorical or real-valued sensitive groups), or result in non-convex objectives (thus adversely affecting the optimisation landscape). In this paper, we propose a new definition of fairness that generalises some existing proposals, while allowing for generic sensitive features and resulting in a convex objective. The key idea is to enforce that the expected losses (or risks) across each subgroup induced by the sensitive feature are commensurate. We show how this relates to the rich literature on risk measures from mathematical finance. As a special case, this leads to a new convex fairness-aware objective based on minimising the conditional value at risk (CVaR).

研究动机与目标

• 为解决现有公平性定义的局限性，即受限于二值敏感特征或导致非凸优化问题。
• 开发一种公平性定义，推广现有提案，同时支持通用的敏感特征，包括分类和实值群体。
• 制定一种公平感知学习的凸优化目标，提高实际应用中的可处理性和可扩展性。
• 将机器学习中的公平性与数学金融中既有的风险度量理论联系起来。
• 证明最小化子群体风险的条件风险价值（CVaR）可产生一种凸、可扩展且理论基础坚实的公平性目标。

提出的方法

• 基于通过敏感特征诱导的子群体之间预期损失（风险）相等，提出一种公平性定义，确保可比性。
• 在数学金融的风险度量框架中构建公平性约束，特别是条件风险价值（CVaR）。
• 通过最小化敏感子群体间损失分布的CVaR，推导出一种凸优化目标。
• 将所提出的框架应用于监督学习任务，实现带公平性约束的端到端训练。
• 证明由此产生的优化问题是凸的，确保全局收敛和高效计算。
• 通过允许任意敏感特征（包括连续和多分类属性）推广先前的公平性定义。

实验结果

研究问题

• RQ1 如何定义公平性，使其适用于任意敏感特征，包括分类和实值群体？
• RQ2 能否构建一种既理论坚实又计算可处理的公平性目标？
• RQ3 机器学习中的公平性与数学金融中的风险度量之间有何关联？
• RQ4 最小化子群体风险的CVaR是否能产生适合可扩展训练的凸优化问题？
• RQ5 与现有定义相比，所提出的公平性定义在泛化能力和鲁棒性方面表现如何？

主要发现

• 所提出的公平性定义通过允许任何类型的敏感特征（包括连续和多分类属性）推广了现有方法。
• 该方法产生一种凸优化目标，可实现公平分类器的高效且全局最优训练。
• 通过将公平性与风险度量联系起来，该方法继承了数学金融中的强理论特性。
• 使用CVaR作为公平性目标，可优先考虑表现最差的子群体，从而提升公平性。
• 通过凸优化实现可扩展训练，使该框架在实际应用中具有可行性。
• 该方法在统一的凸公式下涵盖并扩展了先前的公平性定义，如平等机会和等化奇偶性。