[论文解读] Causal Conceptions of Fairness and their Consequences

Hamed Nilforoshan, Johann Gaebler+2 more|arXiv (Cornell University)|Jul 12, 2022

Ethics and Social Impacts of AI被引用 8

一句话总结

本文分析了算法决策中因果公平性的概念，将其分为两类：一类是限制反事实差异的约束，另一类是限制受保护属性对决策影响的约束。研究证明，在自然效用函数下，公平性约束几乎总是导致强帕累托占优的策略——意味着在不违反公平性的前提下，所有利益相关者均可获得更优结果，从而揭示了当前因果公平性定义的正式局限性。

ABSTRACT

Recent work highlights the role of causality in designing equitable decision-making algorithms. It is not immediately clear, however, how existing causal conceptions of fairness relate to one another, or what the consequences are of using these definitions as design principles. Here, we first assemble and categorize popular causal definitions of algorithmic fairness into two broad families: (1) those that constrain the effects of decisions on counterfactual disparities; and (2) those that constrain the effects of legally protected characteristics, like race and gender, on decisions. We then show, analytically and empirically, that both families of definitions \emph{almost always} -- in a measure theoretic sense -- result in strongly Pareto dominated decision policies, meaning there is an alternative, unconstrained policy favored by every stakeholder with preferences drawn from a large, natural class. For example, in the case of college admissions decisions, policies constrained to satisfy causal fairness definitions would be disfavored by every stakeholder with neutral or positive preferences for both academic preparedness and diversity. Indeed, under a prominent definition of causal fairness, we prove the resulting policies require admitting all students with the same probability, regardless of academic qualifications or group membership. Our results highlight formal limitations and potential adverse consequences of common mathematical notions of causal fairness.

研究动机与目标

• 澄清算法决策中不同因果公平性概念之间的关系。
• 检验将因果公平性定义作为设计原则时在现实世界中的后果。
• 探究在利益相关者自然偏好下，公平性约束是否会导致高效或次优的决策策略。
• 正式证明，即使公平性以因果方式定义，公平性约束的策略也常常是帕累托占优的。

提出的方法

• 将因果公平性定义分为两类：(1) 限制决策对反事实差异影响的定义，(2) 限制受保护属性对决策影响的定义。
• 使用测度论的普遍性理论，分析无限维策略空间中帕累托占优策略的普遍性。
• 结合理论分析与实证验证，比较在各种效用函数下受约束与不受约束的决策策略。
• 应用贝塔分布与条件期望的理论，证明在特定分布假设下，满足公平性标准的阈值策略无法实现帕累托效率。
• 利用截断贝塔期望的偏导数，推导出反事实预测均等性与帕累托效率之间产生矛盾的条件。
• 证明在一种著名的因果公平性定义下，唯一可行的策略是无论资格或群体归属如何，均以相等概率录取申请人。

实验结果

研究问题

• RQ1 在算法决策中，不同因果公平性概念之间如何相互关联？
• RQ2 在决策策略中强制实施因果公平性约束会产生怎样的现实后果？
• RQ3 当利益相关者同时重视绩效与多样性时，公平性约束的策略能否实现帕累托效率？
• RQ4 在何种条件下，因果公平性定义会导致强帕累托占优的策略？
• RQ5 在自然效用函数下，因果公平性与最优决策之间是否存在根本性不相容？

主要发现

• 因果公平性约束几乎总是导致强帕累托占优的决策策略，意味着所有利益相关者均可获得更优结果。
• 在大学录取的情境中，公平性约束的策略将同时降低学位获得率与学生群体多样性，相较于无约束策略。
• 在反事实预测均等性下，唯一可行的策略是无论学术资格或群体归属如何，均以相等概率录取所有申请人。
• 理论分析证明，当给定群体归属下的学术准备度分布服从特定参数的贝塔分布时，任何满足反事实预测均等性的阈值策略都无法实现帕累托效率。
• 通过测度论工具确立了帕累托占优策略的普遍性，表明在自然假设下，此类策略并非罕见，反而是一种常态。
• 即使公平性以因果方式定义，所导致的策略也未能最大化利益相关者效用，从而削弱了其实际合理性。