[论文解读] Avoiding Discrimination through Causal Reasoning

Niki Kilbertus, Mateo Rojas-Carulla+4 more|arXiv (Cornell University)|Jun 8, 2017

Ethics and Social Impacts of AI参考文献 14被引用 178

一句话总结

该论文通过因果推理重新框定机器学习中的公平性，提出解决变量和代理变量，并提出基于干预的标准和算法，以在指定的因果模型下避免代理歧视和未解决的歧视。

ABSTRACT

Recent work on fairness in machine learning has focused on various statistical discrimination criteria and how they trade off. Most of these criteria are observational: They depend only on the joint distribution of predictor, protected attribute, features, and outcome. While convenient to work with, observational criteria have severe inherent limitations that prevent them from resolving matters of fairness conclusively. Going beyond observational criteria, we frame the problem of discrimination based on protected attributes in the language of causal reasoning. This viewpoint shifts attention from "What is the right fairness criterion?" to "What do we want to assume about the causal data generating process?" Through the lens of causality, we make several contributions. First, we crisply articulate why and when observational criteria fail, thus formalizing what was before a matter of opinion. Second, our approach exposes previously ignored subtleties and why they are fundamental to the problem. Finally, we put forward natural causal non-discrimination criteria and develop algorithms that satisfy them.

研究动机与目标

• 澄清观测性公平性标准的局限性，并形式化对歧视的因果标准。
• 在因果图中区分受保护属性及其代理变量。
• 引入基于干预的自然因果标准来描述歧视形式。
• 在线性因果模型下开发并示例化用于消除代理歧视的算法。

提出的方法

• 引入因果图和结构方程模型来表示涉及受保护属性、代理变量、特征和预测变量的数据生成过程。
• 在图中相对于 resolving 变量和 proxy 变量定义未解决的歧视和代理歧视。
• 提出基于干预的代理歧视定义，使用 do-calculus，并推导线性模型中消除它的条件。
• 提供一个程序性指南（以及一个具体的线性示例），以修改预测变量以满足无歧视约束。
• 讨论与现有公平性概念如人口统计平等和等机会等价性的关系，并展示干预标准如何与个体公平性概念相关。

实验结果

研究问题

• RQ1 在因果层面，观测性公平性标准如何未能区分某些歧视情形？
• RQ2 如何在代理变量或解决变量上进行干预，以在预测中正式刻画和防止歧视？
• RQ3 在给定的因果结构下，哪些实际程序可以确保预测变量不具备代理歧视或未解决的歧视？
• RQ4 代理歧视标准如何与其他公平性概念以及个体公平性相关？

主要发现

• 观测性标准通常不能确定预测变量是否具有未解决的歧视，甚至对于 Bayes 最优预测器也是如此。
• 一个区分 resolving 变量和代理变量的因果框架揭示了公平决策中的细微差别，并支持基于干预的自然歧视标准。
• 存在通过对代理变量进行干预并重新表达预测变量以抵消不希望的因果路径，从而在线性因果模型中消除代理歧视的程序。
• 在合适的可表达性假设下，移除代理歧视的同时仍可允许预测变量使用具有潜在代理歧视的特征。
• 除非预测变量能够访问某些变量，否则简单调整无法消除未解决的歧视，这凸显了纯观测性调整的局限性。