[论文解读] Characterizing Fairness Over the Set of Good Models Under Selective Labels

Amanda Coston, Ashesh Rambachan+1 more|arXiv (Cornell University)|Jan 2, 2021

Ethics and Social Impacts of AI参考文献 46被引用 13

一句话总结

本文提出了 FaiRS，一种在选择性标注条件下分析高性能模型集合（即 'Rashomon 集'）中预测公平性的框架。该框架支持审计与模型替换，通过识别在保持性能的同时公平性差异最小的模型，展示了其在信用评分和再犯预测数据集上的有效性，实现了公平性提升而无需牺牲准确性。

ABSTRACT

Algorithmic risk assessments are used to inform decisions in a wide variety of high-stakes settings. Often multiple predictive models deliver similar overall performance but differ markedly in their predictions for individual cases, an empirical phenomenon known as the "Rashomon Effect." These models may have different properties over various groups, and therefore have different predictive fairness properties. We develop a framework for characterizing predictive fairness properties over the set of models that deliver similar overall performance, or "the set of good models." Our framework addresses the empirically relevant challenge of selectively labelled data in the setting where the selection decision and outcome are unconfounded given the observed data features. Our framework can be used to 1) replace an existing model with one that has better fairness properties; or 2) audit for predictive bias. We illustrate these uses cases on a real-world credit-scoring task and a recidivism prediction task.

研究动机与目标

• 开发一种框架，用于评估多个在整体准确率方面表现相似的模型的预测公平性。
• 解决仅对选定案例观测结果的选择性标注数据问题，假设在给定特征条件下无混淆性。
• 使从业者能够用公平性特性更优但性能相当的模型替换现有模型。
• 支持审计人员通过检查良好模型集合中是否存在更公平的替代模型，来评估当前模型是否可基于 '业务必要性' 原则进行辩护。
• 将公平性分析从单一模型扩展至性能相当的全部模型集合，捕捉公平性结果中的 Rashomon 效应。

提出的方法

• FaiRS 将寻找公平模型的问题形式化为在性能与基准模型容忍范围内的模型集合上的优化问题。
• 使用线性规划约化方法，计算给定公平性度量下各群体间预测差异的最小值与最大值。
• 通过整体损失约束，确保所选模型在性能上与基准模型保持在指定容忍范围内。
• 针对选择性标注，提出一种变体 FaiRS，利用对结果回归函数的预言机访问以维持理论保证。
• 该框架支持分类与回归任务，使用标准公平性度量如统计独立性与对正/负类的平衡性。
• 通过探索性能相近模型的公平性结果范围，利用 Rashomon 效应。

实验结果

研究问题

• RQ1 在性能与基准模型相当的模型集合中，可实现的预测差异范围是什么？
• RQ2 在良好模型集合中，是否存在显著低于基准模型预测差异的模型？
• RQ3 能否识别出一个更公平的模型，其性能与当前模型相当，从而可基于 '业务必要性' 原则为模型选择提供辩护？
• RQ4 在结果并非对所有个体都可观测的选择性标注数据设置下，该框架表现如何？
• RQ5 在现实世界应用（如信用评分与再犯预测）中，公平性可提升到何种程度而不牺牲整体预测准确性？

主要发现

• 在 COMPAS 再犯预测数据集上，FaiRS 发现基准模型在黑人与白人被告之间产生的预测差异，大于良好模型集合中任何其他模型。
• 在 Rashomon 集中，最小化差异的模型将统计独立性差异从 0.200（COMPAS）降低至 -0.207，同时保持相近的测试损失（0.098 vs. 0.102）。
• 在信用评分任务中，FaiRS 识别出一个预测差异更低的模型，其测试损失为 0.096，仅比基准模型的 0.102 低约 3%。
• 在 Communities & Crime 回归任务中，FaiRS 将多数白人社区与非白人社区之间预测暴力犯罪率的差异从 -0.3386（基准）降低至 -0.2658，测试损失仅增加 6.9%（0.0108 vs. 0.0101）。
• 当使用对结果回归函数的预言机访问时，该框架即使在选择性标注下仍能保持泛化误差与预测差异的理论保证。
• 结果表明，公平性提升通常无需以性能为代价，从而对现有模型基于 '业务必要性' 原则的辩护提出了挑战。