[论文解读] Causal Reasoning for Algorithmic Fairness

Joshua R. Loftus, Chris Russell+2 more|arXiv (Cornell University)|May 15, 2018

Ethics and Social Impacts of AI参考文献 33被引用 79

一句话总结

本论文主张将因果推理纳入以界定和实现算法决策中的公平性，评估现有的公平性概念，并调查基于因果关系的方法，包括反事实公平性。

ABSTRACT

In this work, we argue for the importance of causal reasoning in creating fair algorithms for decision making. We give a review of existing approaches to fairness, describe work in causality necessary for the understanding of causal approaches, argue why causality is necessary for any approach that wishes to be fair, and give a detailed analysis of the many recent approaches to causality-based fairness.

研究动机与目标

• 主张在公平决策系统中因果推理的必要性
• 评审现有的公平性概念（equalised odds, calibration, demographic parity, individual fairness）及其局限性
• 介绍并阐述用于公平性的因果工具（structural causal models, interventions, counterfactuals）
• 综述最近的基于因果的公平性方法及它们如何与如 counterfactual fairness 这样的公平性概念结合
• 强调干预和因果假设在设计公正预测模型中的作用

提出的方法

• 概述公平性定义及其统计性质（equalised odds, calibration, demographic parity, individual fairness）
• 介绍 structural causal models (SCMs) 和 do-operator 以形式化干预和反事实
• 定义 counterfactual fairness 并展示它与常见公平性概念的关系
• 讨论选择偏差以及因果图如何帮助在偏见下推理公平性
• 提供一个框架对公平性中的因果推理进行分类（个体 vs 群体，显式 vs 隐式方程，预测 vs 解释）
• 综述并联系最近的基于因果的公平性方法

实验结果

研究问题

• RQ1 经典公平性概念如何与因果推理相关，以及它们在现实世界带偏数据中的局限性有哪些？
• RQ2 如何使用 SCMs、干预和反事实来定义并实现公平预测？
• RQ3 什么是 counterfactual fairness，以及它如何与 demographic parity 和 equalised odds 等概念相关？
• RQ4 存在哪些框架用于对公平性中的因果推理进行分类，以及它们在方法设计上提供了哪些实际指导？
• RQ5 选择偏差和因果路径在评估和确保算法公平性方面扮演什么角色？

主要发现

• 因果性被认为是理解和减轻跨领域预测系统中的偏见的关键
• counterfactual fairness 提供了一个具体的因果公平性标准，与个体层面的评估一致
• 像 equalised odds 和 calibration 这样的校准在一般情况下并不能同时满足，除非满足某些条件，凸显局限
• 模型中的确定性或隐式因果假设可能比纯数据驱动的协变量调整对公平性提供更有信息量
• 干预和 do-operator 提供了一种有原则的方法来推理决策对结果的影响并设计公平政策
• 本文将因果公平概念与现有非因果概念（demographic parity, individual fairness, equalised odds）联系起来，以阐明等价性和差异