[论文解读] Distributive Justice as the Foundational Premise of Fair ML: Unification, Extension, and Interpretation of Group Fairness Metrics

Joachim Baumann, Corinna Hertweck+2 more|arXiv (Cornell University)|Jun 6, 2022

Social and Intergroup Psychology被引用 5

一句话总结

本文通过将群体公平性度量建立在分配正义理论的基础上，提出了一套统一的框架，以实现对机器学习中群体公平性度量的统一化。该框架引入了四个规范性要素——效用度量、相关群体、主张差异因子和正义模式——用以解释和扩展现有的公平性度量，从而实现超越基于平等的范式、具有上下文敏感性的、伦理基础坚实的公平性评估。

ABSTRACT

Group fairness metrics are an established way of assessing the fairness of prediction-based decision-making systems. However, these metrics are still insufficiently linked to philosophical theories, and their moral meaning is often unclear. In this paper, we propose a comprehensive framework for group fairness metrics, which links them to more theories of distributive justice. The different group fairness metrics differ in their choices about how to measure the benefit or harm of a decision for the affected individuals, and what moral claims to benefits are assumed. Our unifying framework reveals the normative choices associated with standard group fairness metrics and allows an interpretation of their moral substance. In addition, this broader view provides a structure for the expansion of standard fairness metrics that we find in the literature. This expansion allows addressing several criticisms of standard group fairness metrics, specifically: (1) they are parity-based, i.e., they demand some form of equality between groups, which may sometimes be detrimental to marginalized groups; (2) they only compare decisions across groups but not the resulting consequences for these groups; and (3) the full breadth of the distributive justice literature is not sufficiently represented.

研究动机与目标

• 通过将现有群体公平性度量与分配正义的哲学理论相联系，解决其缺乏规范性基础的问题。
• 在单一、可解释的框架下统一多样化的群体公平性标准，揭示其潜在的道德假设。
• 将标准公平性度量从基于平等的观念扩展至包含非平等主义正义原则的范畴。
• 为设计针对特定应用场景的、上下文敏感的公平性标准提供结构化方法。
• 通过明确识别其设计中嵌入的规范性选择，阐明公平性度量的道德实质。

提出的方法

• 该框架包含四个核心组成部分：(1) 决策对象的效用，定义如何衡量利益或损害；(2) 相关群体，明确哪些社会群体被用于比较；(3) 主张差异因子，识别可正当化不均等效用分配的特征；(4) 正义模式，定义何种分配可被视为公正。
• 该框架将既有的公平性度量（如人口统计学均等、机会均等）解释为特例，揭示其潜在的规范性假设。
• 通过整合如优先主义和充分主义等替代正义理论，将公平性拓展至超越均等化，实现上下文敏感的公平性标准。
• 该方法使用效用矩阵量化结果，并在不同假设下（包括反事实和替代分类器）比较各群体间的分配情况。
• 通过调整框架中的不同组件，可构建新的公平性度量，例如基于现实后果（如医疗结果）而非仅预测率来定义效用。
• 该框架提供了一种通过哲学正义理论解读公平性度量的视角，推动从算法均等走向伦理基础坚实的评估。

实验结果

研究问题

• RQ1 如何通过基于分配正义的规范性框架，系统性地统一群体公平性度量？
• RQ2 标准群体公平性度量中隐含的道德假设是什么？如何使其显性化？
• RQ3 在何种方式下，公平性度量可被扩展至超越基于平等的观念，以包含非平等主义的正义原则？
• RQ4 如何利用一种有原则的、基于规范的框架，将公平性标准适配于特定的应用场景？
• RQ5 替代分配正义理论（如优先主义、充分主义）在多大程度上可被形式化并应用于机器学习中的公平性度量？

主要发现

• 所提出的框架成功地将主要群体公平性度量（如人口统计学均等、机会均等、等化奇偶性）统一起来，将其解释为一般分配正义原则的具体实现。
• 该框架揭示了标准公平性度量中嵌入了特定的规范性选择（如平等主义或优先主义），而这些选择在实践中常被隐含。
• 通过引入主张差异因子和替代正义模式，该框架使得公平性度量不再仅基于均等化，从而回应了现有方法的关键批评。
• 该框架可将反事实公平性和基于偏好的统计均等性形式化为特例，展示了其如何在不同决策系统间比较效用分布。
• 该方法表明，公平性不仅可通过比较不同群体的结果来评估，还可通过评估系统是否相对于替代方案改善了所有群体的结果来衡量。
• 研究表明，效用函数可基于具体情境进行定义（如在医疗案例中），但实际实现仍具挑战性，主要因现实世界效用的量化困难。