[论文解读] Welfare and Distributional Impacts of Fair Classification

Lily Hu, Yiling Chen|arXiv (Cornell University)|Jul 3, 2018

Ethics and Social Impacts of AI参考文献 5被引用 15

一句话总结

本文提出了一种社会福利最大化框架，将公平分类重新诠释为分布问题，将分类器决策转化为社会福利权重。通过将约束损失最小化映射为福利经济学中的计划者问题，揭示了公平约束如何改变个体与群体的福利，为二值分类中准确率、公平性与分配正义之间的权衡提供规范性视角。

ABSTRACT

Current methodologies in machine learning analyze the effects of various statistical parity notions of fairness primarily in light of their impacts on predictive accuracy and vendor utility loss. In this paper, we propose a new framework for interpreting the effects of fairness criteria by converting the constrained loss minimization problem into a social welfare maximization problem. This translation moves a classifier and its output into utility space where individuals, groups, and society at-large experience different welfare changes due to classification assignments. Under this characterization, predictions and fairness constraints are seen as shaping societal welfare and distribution and revealing individuals' implied welfare weights in society--weights that may then be interpreted through a fairness lens. The social welfare formulation of the fairness problem brings to the fore concerns of distributive justice that have always had a central albeit more implicit role in standard algorithmic fairness approaches.

研究动机与目标

• 为弥合公平机器学习中将公平性简化为准确率与平等性度量之间权衡的空白，提出社会福利框架。
• 形式化机器学习中约束损失最小化与经济学中社会福利最大化之间的联系，以分析分配影响。
• 将公平约束解释为隐含社会福利权重的变动，揭示不同公平标准如何影响个体与群体。
• 为从公平分类器调整中推导新的福利权重函数，提供几何与分析方法，适用于线性SVM。
• 通过将模型行为与社会层面的公平性与效用分配关联，实现对公平方法的规范性评估。

提出的方法

• 将经验风险最小化重新表述为社会福利最大化问题，目标是最大化个体效用的加权和。
• 引入社会福利泛函，其中个体福利权重反映社会对每个个体效用的估值。
• 反转计划者问题，以推断使给定分类器分配成为最优的隐含福利权重函数。
• 使用线性变换 T 将原始分类器的决策边界 h(x) 映射到新边界 h′(x)，从而推导出新的福利权重 w′(h′(x), xm)。
• 通过分析数据点到新决策边界的距离 D(x, T(hx)) 的全微分，推导新福利权重函数 w′ 的条件。
• 利用正交投影 Ph 和 Ph′ 进行几何分析，基于决策边界的移动计算福利权重的变化。

实验结果

研究问题

• RQ1 如何将机器学习中的公平性重新诠释为社会福利分配问题，而不仅限于准确率的权衡？
• RQ2 在二值分类任务中，给定一个学习到的分类器，其对应的隐含社会福利权重函数是什么？
• RQ3 公平约束如何改变分类器输出中个体与群体之间的福利权重分布？
• RQ4 分类器决策边界的变换能否与社会福利权重的变化进行解析关联？
• RQ5 在何种几何与数学条件下，公平调整后的分类器对应于最优的社会福利分配？

主要发现

• 本文建立了公平分类与社会福利最大化之间的正式映射，表明公平约束对应于隐含社会福利权重的变动。
• 通过公平调整改变决策边界会引发福利权重的变化，该变化可通过到新边界的距离的全微分进行解析推导。
• 新福利权重函数 w′(h′(x), xm) 由距离 D(x, T(hx)) 的变化，以及原始权重函数对这一距离及其个体特征 xm 的敏感性决定。
• 该方法允许直接比较原始分类器与公平分类器的权重分布，揭示公平性如何改变社会对个体的估值。
• 该框架通过量化公平方法对群体与个体层面福利份额的影响，实现对公平方法的规范性评估。
• 该方法通过线性变换 T 提供了公平调整的几何解释，该变换将投影从原始决策边界映射到新决策边界。