[论文解读] Causal Interventions for Fairness

Matt J. Kusner, Chris Russell+2 more|arXiv (Cornell University)|Jun 6, 2018

Ethics and Social Impacts of AI参考文献 25被引用 13

一句话总结

本文提出了一种因果干预框架，通过优化资源配置（如高级课程的资金分配）来改善系统性决策中的公平性，同时最小化基于特权的优待。利用包含干扰效应的结构因果模型，该框架构建了一个注重公平的优化方法，优先考虑历史上处于不利地位的学校。在纽约市高中数据上的实证表明，公平干预在不牺牲整体效益的前提下，显著提升了资源配置的多样性。

ABSTRACT

Most approaches in algorithmic fairness constrain machine learning methods so the resulting predictions satisfy one of several intuitive notions of fairness. While this may help private companies comply with non-discrimination laws or avoid negative publicity, we believe it is often too little, too late. By the time the training data is collected, individuals in disadvantaged groups have already suffered from discrimination and lost opportunities due to factors out of their control. In the present work we focus instead on interventions such as a new public policy, and in particular, how to maximize their positive effects while improving the fairness of the overall system. We use causal methods to model the effects of interventions, allowing for potential interference--each individual's outcome may depend on who else receives the intervention. We demonstrate this with an example of allocating a budget of teaching resources using a dataset of schools in New York City.

研究动机与目标

• 将关注点从公平预测转向公平的系统级干预，以解决不平等的根源。
• 使用结构因果模型（SCMs）建模公共政策干预的影响，包括结果依赖于邻近单位的干扰效应。
• 设计一种公平性准则，限制个体仅因特权群体身份而获得的收益。
• 在预算约束下优化干预措施，同时最大化总体效益并最小化不公平优势。
• 在纽约市学校中学前准备资源分配的真实数据上展示该方法。

提出的方法

• 使用结构因果模型（SCMs）表示干预及其影响，包括干扰效应——即一所学校的结果取决于邻近学校所采取的干预措施。
• 定义了一种反事实公平性度量，用于量化个体因受保护属性（如种族）而获得的纯收益。
• 引入一个以 τ 参数化的公平性约束，限制特权群体从干预中获益的程度。
• 采用带约束的优化问题，在预算约束（B=25 所学校）下最大化总体效益，同时通过 τ 参数确保公平性。
• 使用基于地理信息系统（GIS）邻近度的结构方程建模结果（如参加 SAT/ACT 的人数），其中包含种族特定的系数和邻近效应。
• 在高斯噪声假设下，通过最大似然法拟合模型参数，使用包含种族、邻近度和干预指标的真实纽约市学校数据。

实验结果

研究问题

• RQ1 如何设计干预措施，以在不完全依赖公平预测的前提下，提升系统性结果的公平性？
• RQ2 由于结构性不平等，教育系统中的干预措施在多大程度上会不成比例地使特权群体受益？
• RQ3 如何在因果公平性框架中建模干扰效应——即一所学校的结果依赖于附近学校所采取的干预？
• RQ4 在资源配置中，最大化总体效益与最小化基于特权的优待之间存在何种权衡？
• RQ5 具有公平意识的优化策略是否能带来更种族多元化的教育资 allocation？

主要发现

• 公平干预模型（τ = 0.046）将资源分配给以西班牙裔和非裔为主、中位数收入较低的学校，如布朗克斯北部和曼哈顿北部，优先考虑了不依赖于种族的高效益学校。
• 随着 τ 增大（τ = 0.084），资源分配逐渐转向布鲁克林和皇后区的多数白人学校，同时保持了相似数量的西班牙裔学校，但减少了对非裔学校的分配。
• 非公平模型（无约束）将全部 25 个干预措施分配给下曼哈顿和下布鲁克林的多数白人学校，排除了大多数历史上处于不利地位的学校。
• 尽管公平模型聚焦于公平性，当 τ 设为 0.046 时，其目标值仍高于非公平模型，表明公平性并不必然降低整体效益。
• 公平模型的分配结果在曼哈顿地区与非公平模型的空间分布相近，表明公平干预可以与现有模式共存，而无需完全重构。
• 该方法成功识别出因非种族相关因素（如地理位置接近度和资源缺口）而最可能从干预中受益的学校，而非受人口统计偏差驱动。