[论文解读] A continuous framework for fairness.

Philipp Hacker, Emil Wiedemann|arXiv (Cornell University)|Dec 21, 2017

Ethics and Social Impacts of AI被引用 15

一句话总结

本文提出了连续公平性算法（CFA$\theta$），一种基于最优传输理论和重心计算的后处理方法，可在个体公平性与群体公平性之间实现连续插值。该方法使决策者能够根据不同的情境需求（包括交叉性歧视）灵活调整公平性权衡，已在大学录取、信用评分和保险领域得到应用验证。

ABSTRACT

Increasingly, discrimination by algorithms is perceived as a societal and legal problem. As a response, a number of criteria for implementing algorithmic fairness in machine learning have been developed in the literature. This paper proposes the Continuous Fairness Algorithm (CFA$ heta$) which enables a continuous interpolation between different fairness definitions. More specifically, we make three main contributions to the existing literature. First, our approach allows the decision maker to continuously vary between concepts of individual and group fairness. As a consequence, the algorithm enables the decision maker to adopt intermediate worldviews on the degree of discrimination encoded in algorithmic processes, adding nuance to the extreme cases of we're all equal (WAE) and you see is what you get (WYSIWYG) proposed so far in the literature. Second, we use optimal transport theory, and specifically the concept of the barycenter, to maximize decision maker utility under the chosen fairness constraints. Third, the algorithm is able to handle cases of intersectionality, i.e., of multi-dimensional discrimination of certain groups on grounds of several criteria. We discuss three main examples (college admissions; credit application; insurance contracts) and map out the policy implications of our approach. The explicit formalization of the trade-off between individual and group fairness allows this post-processing approach to be tailored to different situational contexts in which one or the other fairness criterion may take precedence.

研究动机与目标

• 为应对算法歧视带来的社会与法律关切，提供一种灵活的公平性框架。
• 实现个体公平性（WYSIWYG）与群体公平性（WAE）之间的连续插值，突破二元公平性定义的局限。
• 通过建模多个受保护属性上的多维歧视，纳入交叉性考量。
• 利用最优传输理论，在动态可调的公平性约束下最大化决策者效用。
• 通过大学招生、信贷申请和保险合同等真实世界案例研究，提供具有政策参考价值的洞见。

提出的方法

• 该框架利用最优传输理论计算概率测度的重心，代表个体公平性与群体公平性之间的公平折衷。
• 将公平性形式化为一个连续参数$\theta$，在个体公平性（WYSIWYG）与群体公平性（WAE）之间进行插值。
• 该算法对模型输出应用后处理变换，以满足由$\theta$定义的公平性约束，同时尽可能保持效用。
• 通过将重心公式扩展至同时处理多个受保护属性，实现对交叉性的处理。
• 在公平性约束下，通过在传输计划上进行凸优化，实现对决策者效用的最大化。
• 该方法与底层模型无关，可作为后处理公平性调整机制，适用于任何预训练分类器。

实验结果

研究问题

• RQ1 如何将机器学习中的公平性形式化为个体公平性与群体公平性之间的连续权衡，而非二元选择？
• RQ2 在不同应用领域中，公平性参数$\theta$的变化对决策效用和公平性度量有何影响？
• RQ3 如何有效建模并缓解交叉性歧视——即个体因多个属性叠加而面临多重偏见的情况？
• RQ4 最优传输与重心计算在实现统一、连续的公平性框架中起到何种作用？
• RQ5 与传统的离散公平性定义相比，使用连续公平性时，政策影响有何不同？

主要发现

• CFA$\theta$框架实现了个体公平性与群体公平性之间的平滑插值，使决策者能够根据情境价值观选择合适的公平性水平。
• 通过使用最优传输与重心计算，该方法在多种情境下均保持了较高的决策效用，同时满足公平性约束。
• 该方法成功建模并缓解了交叉性歧视，相较于单一属性公平性方法，提供了更细致的解决方案。
• 在大学录取场景中，该框架在降低差异性影响的同时，保持了各受保护群体的预测准确性。
• 在信贷与保险应用中，该方法对不同的公平性偏好表现出鲁棒性，并在多个人口统计维度上维持了公平性。
• 对公平性-效用权衡的显式形式化，使得在实际部署中能够实现透明、情境感知的政策决策。