[论文解读] Fairness Behind a Veil of Ignorance: A Welfare Analysis for Automated Decision Making

Hoda Heidari, Claudio Ferrari+2 more|arXiv (Cornell University)|Jun 13, 2018

Ethics and Social Impacts of AI参考文献 27被引用 45

一句话总结

本文提出以福利为基础的公平性衡量标准，根植于无知之幕，将其嵌入学习中的凸约束，并在真实数据集上分析与准确度及其他公平性 notions 的权衡。它还表明福利的下界可以界定结果的不平等。

ABSTRACT

We draw attention to an important, yet largely overlooked aspect of evaluating fairness for automated decision making systems---namely risk and welfare considerations. Our proposed family of measures corresponds to the long-established formulations of cardinal social welfare in economics, and is justified by the Rawlsian conception of fairness behind a veil of ignorance. The convex formulation of our welfare-based measures of fairness allows us to integrate them as a constraint into any convex loss minimization pipeline. Our empirical analysis reveals interesting trade-offs between our proposal and (a) prediction accuracy, (b) group discrimination, and (c) Dwork et al.'s notion of individual fairness. Furthermore and perhaps most importantly, our work provides both heuristic justification and empirical evidence suggesting that a lower-bound on our measures often leads to bounded inequality in algorithmic outcomes; hence presenting the first computationally feasible mechanism for bounding individual-level inequality.

研究动机与目标

• 在评估自动化决策中的公平性时，除了平等，还需要考虑风险与福利的必要性。
• 提出与基数社会福利和 Rawlsian 思路相关的一族福利基础公平性衡量标准。
• 开发一个在学习过程中强制福利衡量下界的凸优化方法。
• 通过实证分析福利、准确性、群体歧视和个体公平性概念之间的权衡。

提出的方法

• 为预测定义收益和效用函数 b(y, ŷ) 和 CRRA 效用 u(b) = b^α，0 < α < 1。
• 证明福利衡量 Wα(b) = ∑i wα(bi) 与 wα(b) = b^α 在执行福利下界时构成凸约束。
• 将带约束的优化问题表述为：在学习过程中最小化训练损失 L_D(h) ，并使 U_D(h) ≥ τ，其中 U_D(h) = E[u(b(y, h(x)))]。
• 将所提出的度量与基数福利函数及 Pigou-Dalton 转移原理联系起来，确立理论性质以及与 Atkinson 指数的关系。
• 讨论该框架如何实现优化效率并可集成到凸损失最小化的流程中。

实验结果

研究问题

• RQ1 如何在评估自动化决策中的公平性时，超越基于平等的概念，将风险与福利纳入考量？
• RQ2 在分类和回归任务中，福利基础公平性、预测准确性以及其他公平性概念（群体、个体）之间存在哪些权衡？
• RQ3 在算法结果上强制执行福利下界是否可以有效地界定不平等？
• RQ4 在均值保持变换下， proposed 框架与现有福利与不平等度量（如 Atkinson 指数）之间有何关系？

主要发现

• 福利基础的公平性衡量倾向于更低风险和更高福利的分布，即使均值不同，也能解决仅仅追求平等的场景。
• 凸优化约束允许在分类和回归任务中高效地执行福利下界的约束优化。
• 实证结果显示权衡：提高福利阈值 τ 或更强的风险厌恶 α 会降低不平等和群体差异，但可能降低准确性。
• 社会福利的下界往往能界定结果中的不平等，提出了一种可计算的机制来限制个体层面的不平等。
• 该框架在固定均值且 α ∈ (0,1) 时，与 Atkinson 指数呈现一致的排序一致性，将福利与不平等概念联系起来。