[论文解读] Learning to be Fair: A Consequentialist Approach to Equitable Decision-Making

Alex Chohlas-Wood, Madison Coots+3 more|arXiv (Cornell University)|Sep 18, 2021

Advanced Causal Inference Techniques被引用 8

一句话总结

本文提出了一种后果主义的公平算法决策框架，优先考虑利益相关者偏好，而非在公平性度量（例如，支出均等）与结果（例如，出庭率）之间的权衡。该框架采用上下文Bandit算法结合凸优化，从数据中学习最优策略，在预算约束下实现高效、效用最大化的策略学习，明确建模下游后果，其表现优于基于公理的公平性约束。

ABSTRACT

In an attempt to make algorithms fair, the machine learning literature has largely focused on equalizing decisions, outcomes, or error rates across race or gender groups. To illustrate, consider a hypothetical government rideshare program that provides transportation assistance to low-income people with upcoming court dates. Following this literature, one might allocate rides to those with the highest estimated treatment effect per dollar, while constraining spending to be equal across race groups. That approach, however, ignores the downstream consequences of such constraints, and, as a result, can induce unexpected harms. For instance, if one demographic group lives farther from court, enforcing equal spending would necessarily mean fewer total rides provided, and potentially more people penalized for missing court. Here we present an alternative framework for designing equitable algorithms that foregrounds the consequences of decisions. In our approach, one first elicits stakeholder preferences over the space of possible decisions and the resulting outcomes--such as preferences for balancing spending parity against court appearance rates. We then optimize over the space of decision policies, making trade-offs in a way that maximizes the elicited utility. To do so, we develop an algorithm for efficiently learning these optimal policies from data for a large family of expressive utility functions. In particular, we use a contextual bandit algorithm to explore the space of policies while solving a convex optimization problem at each step to estimate the best policy based on the available information. This consequentialist paradigm facilitates a more holistic approach to equitable decision-making.

研究动机与目标

• 解决基于公理的公平性约束（如支出均等）的局限性，这些约束可能无意中降低整体有效性并损害边缘化群体。
• 开发一种框架，通过利益相关者偏好建模现实世界中公平性度量与结果有效性之间的权衡。
• 通过整合上下文Bandit与凸优化，在动态、数据有限的环境中实现最优决策策略的高效学习。
• 在真实世界模拟中证明，后果主义策略学习优于传统公平性约束和贪婪基线方法。
• 提供一种实用且可扩展的方法，用于设计反映复杂、多维利益相关者价值观的公平算法。

提出的方法

• 通过调查或成对比较，从利益相关者处获取其在公平性（例如，不同种族群体间的支出均等）与结果有效性（例如，出庭率）之间权衡的偏好。
• 将决策策略优化表述为在大规模表达性效用函数族上的效用最大化问题。
• 使用上下文Bandit框架探索策略空间，同时保持预算约束，并更新对潜在结果的信念。
• 在每一步，通过求解凸优化问题（具体为线性规划）来估计在当前不确定性下预期效用最高的策略。
• 采用基于上置信度（UCB）的策略，平衡探索与利用，使用对结果影响的乐观估计。
• 整合代理结果或替代指标（例如，预约确认）以处理现实部署中反馈延迟的问题。

实验结果

研究问题

• RQ1 在真实世界政策环境中，基于公理的公平性约束（如不同种族群体间人均支出相等）如何影响整体项目有效性？
• RQ2 在算法决策中，利益相关者对公平性-结果权衡的偏好在多大程度上可以被获取并实现？
• RQ3 一种在预算约束下优化效用的后果主义方法，是否能在公平性与结果有效性两方面均优于传统公平性约束？
• RQ4 当历史结果存在延迟或部分可观测时，如何高效地从数据中学习最优决策策略？
• RQ5 在动态、真实世界政策环境中，所提出的算法在样本复杂度和收敛性方面有何特性？

主要发现

• 后果主义框架显著优于基于公理的公平性约束（如各群体间支出均等），避免了服务总交付量的意外减少。
• 在圣克拉拉县真实客户数据的模拟中，所提方法在维持支出均等的同时，实现了更高的出庭率，优于基线方法。
• 基于UCB的算法结合线性规划优化，在实证评估中表现优于随机分配和贪婪策略学习。
• 该方法通过使用中间代理指标（如预约确认）有效处理了延迟结果，指导策略更新。
• 推导出样本复杂度边界，表明在温和正则性条件下，该算法以高概率收敛至近似最优策略。
• 调查结果确认，利益相关者愿意为实现更高的支出公平性而接受一定程度的出庭率下降，验证了基于效用的偏好获取方法的有效性。