[论文解读] Impartial Predictive Modeling: Ensuring Group Fairness in Arbitrary Models

Kory D. Johnson, Dean P. Foster+1 more|arXiv (Cornell University)|Aug 1, 2016

Ethics and Social Impacts of AI参考文献 32被引用 18

一句话总结

本文提出了一套公正预测建模框架，通过将敏感属性视为中立协变量，确保群体公平性，并在部分数据设置下通过回归分解实现保守估计。该框架通过区分可解释的变异与歧视，实现预测与公平目标的分离，从而为任意模型提供普遍适用的后处理校正方法。

ABSTRACT

Fairness aware data mining (FADM) aims to prevent algorithms from discriminating against protected groups. The literature has come to an impasse as to what constitutes explainable variability as opposed to discrimination. We demonstrate that fairness is achieved by ensuring \emph{impartiality} with respect to sensitive characteristics and provide a framework for impartiality by accounting for different perspectives on the data generating process. In particular, fairness can only be precisely defined in a full-data scenario in which all covariates are observed. We then analyze how these models may be conservatively estimated via regression in partial-data settings. Decomposing the regression estimates provides insights into previously unexplored distinctions between explainable variability and discrimination. This framework yields a set of impartial estimates that are applicable in a wide variety of situations and post-processing tools to correct estimates from arbitrary models. This effectively separates prediction and fairness goals.

研究动机与目标

• 解决机器学习中公平性定义的模糊性，特别是可解释变异与实际歧视之间的混淆。
• 在完整数据情境下，基于对敏感特征的中立性，建立公平性的正式定义。
• 在未观测到所有协变量（部分数据设置）时，开发一种保守估计公平模型的方法。
• 通过回归分解揭示此前未被探索的可解释变异与歧视之间的区别。
• 提供后处理工具，对任意模型的预测结果进行校正，同时在受保护群体间保持公平性。

提出的方法

• 通过将敏感特征视为协变量而非偏差校正的目标，从对敏感特征的中立性角度定义公平性。
• 在所有协变量（包括敏感属性）均被观测并联合建模的完整数据情境下，形式化公平性定义。
• 使用回归分解分析敏感属性对预测的贡献，分离其在可解释变异与歧视中的作用。
• 在部分数据设置中提出保守估计技术，即当部分协变量未被观测时，确保在不确定性下仍保持公平性。
• 推导出对敏感属性是否包含在模型中均不变的中立估计，从而支持后处理校正。
• 设计后处理工具，调整任意模型的预测结果，以确保群体公平性，而无需重新训练。

实验结果

研究问题

• RQ1 当所有协变量（包括敏感属性）在数据中均可观测时，如何精确地定义公平性？
• RQ2 在预测模型中，由敏感属性引起的可解释变异与实际歧视有何区别？
• RQ3 当某些协变量未被观测或部分观测时，如何对中立模型进行保守估计？
• RQ4 回归分解在哪些方面揭示了公平性与可解释变异之间此前隐藏的区别？
• RQ5 后处理工具是否可以普遍应用于校正任意模型的预测结果，同时确保群体公平性？

主要发现

• 在完整数据情境下，公平性最好通过针对敏感特征的中立性来定义，此时所有协变量均被观测。
• 回归分解表明，部分归因于敏感属性的变异是可解释的，并非歧视性，从而解决了先前的模糊性。
• 该框架通过考虑未观测到的协变量，实现了在部分数据设置下对公平模型的保守估计。
• 从该框架导出的后处理工具可校正任意模型的预测结果，以实现群体公平性。
• 预测与公平目标的分离使得无需重新训练即可灵活实现模型无关的公平性校正。
• 该方法为区分模型输出中的合法变异与不公平偏见提供了原则性方法。