[论文解读] Principal Fairness for Human and Algorithmic Decision-Making

Kosuke Imai, Zhichao Jiang|arXiv (Cornell University)|May 21, 2020

Ethics and Social Impacts of AI参考文献 23被引用 8

一句话总结

本文提出了主成分公平性（principal fairness），这是一种在人类与算法决策中新的公平性准则，确保在不同决策下具有相似潜在结果的个体得到平等对待。通过利用因果推断中的主成分分层方法，该准则基于联合潜在结果（例如，拘留或释放下的行为）评估公平性，为现有统计与反事实公平性定义提供了一种因果基础的替代方案。

ABSTRACT

Using the concept of principal stratification from the causal inference literature, we introduce a new notion of fairness, called principal fairness, for human and algorithmic decision-making. The key idea is that one should not discriminate among individuals who would be similarly affected by the decision. Unlike the existing statistical definitions of fairness, principal fairness explicitly accounts for the fact that individuals can be impacted by the decision. Furthermore, we explain how principal fairness differs from the existing causality-based fairness criteria. In contrast to the counterfactual fairness criteria, for example, principal fairness considers the effects of decision in question rather than those of protected attributes of interest. We briefly discuss how to approach empirical evaluation and policy learning problems under the proposed principal fairness criterion.

研究动机与目标

• 通过纳入决策对结果的因果效应，解决现有统计与反事实公平性定义的局限性。
• 形式化一种公平性准则，基于个体在不同决策下的影响而非观察到的特征或受保护属性来评估对待方式。
• 使用潜在结果与主成分组别，为人类与算法决策中的公平性评估提供一个严谨的框架。
• 利用可观测数据与识别公式，实现基于所提公平性准则的实证评估与政策学习。
• 区分主成分公平性与现有基于因果性的公平性准则（如反事实平等机会与反事实公平性）

提出的方法

• 将主成分组别定义为联合潜在结果 $ R_i = (Y_i(1), Y_i(0)) $，表示个体在处理与对照条件下可能受到的影响。
• 使用潜在结果 $ Y_i(d) $（$ d=0,1 $）来建模不同决策下的反事实行为，其中观测结果为 $ Y_i = Y_i(D_i) $。
• 应用主成分分层方法，将个体分类为若干组别，如“安全”（$ R_i = (0,0) $）、“可预防”（$ R_i = (0,1) $）、“危险”（$ R_i = (1,1) $）与“反噬”（$ R_i = (1,0) $）。
• 利用可观测数据与估计的倾向得分 $ e_r(m{V}_i, A_i) = ext{Pr}(R_i = r mid m{V}_i, A_i) $，推导 $ ext{Pr}(D_i=1 mid R_i=r, A_i) $ 的识别公式。
• 通过加权总体估计方法，在主成分公平性下实现政策学习，强制在每个受保护群体内各主成分组别中决策概率相等。
• 建立主成分公平性与现有公平性准则之间的联系，表明其通过考虑所有潜在结果而非仅 $ Y_i(0) $，推广了反事实平等机会。

实验结果

研究问题

• RQ1 如何重新定义决策中的公平性，以考虑决策对个体的因果影响？
• RQ2 主成分公平性与现有公平性定义（如统计公平性与反事实公平性）有何不同？
• RQ3 当主成分组别不可观测时，如何对主成分公平性进行实证评估？
• RQ4 主成分公平性对政策学习与算法推荐系统有何影响？
• RQ5 主成分公平性在评估算法风险评估方面如何优于反事实平等机会？”

主要发现

• 主成分公平性基于个体在不同决策下的联合潜在结果来定义公平性，确保具有相似反应模式的个体得到平等对待。
• 该框架通过关注决策本身的影响而非受保护属性的影响，与反事实公平性相区别。
• 本文推导出 $ ext{Pr}(D_i=1 mid R_i=r, A_i) $ 的识别公式，利用可观测协变量与估计的主成分组别概率，实现实证评估。
• 定理6表明，每个主成分组别与受保护群体内的决策概率可通过加权期望估计，从而支持公平性约束的政策学习。
• 主成分公平性通过考虑所有潜在结果而非仅 $ Y_i(0) $，推广了反事实平等机会，从而提供更全面的公平性评估。
• 在主成分公平性下的实证评估需基于主成分组别而非观测结果，突显了当前风险评估评估实践的局限性。