[论文解读] Causal Discovery for Fairness

Rūta Binkytė-Sadauskienė, Karima Makhlouf+3 more|arXiv (Cornell University)|Jun 14, 2022

Qualitative Comparative Analysis Research被引用 5

一句话总结

本文通过展示因果发现（从数据中推断因果图）对公平性评估具有显著影响，填补了公平性感知机器学习中的关键空白。研究发现，不同因果发现算法即使基于同一数据集，也会产生不同的因果结构，从而导致关于直接、间接和中介歧视的结论截然不同，凸显了在可靠公平性评估中谨慎选择因果模型的必要性。

ABSTRACT

It is crucial to consider the social and ethical consequences of AI and ML based decisions for the safe and acceptable use of these emerging technologies. Fairness, in particular, guarantees that the ML decisions do not result in discrimination against individuals or minorities. Identifying and measuring reliably fairness/discrimination is better achieved using causality which considers the causal relation, beyond mere association, between the sensitive attribute (e.g. gender, race, religion, etc.) and the decision (e.g. job hiring, loan granting, etc.). The big impediment to the use of causality to address fairness, however, is the unavailability of the causal model (typically represented as a causal graph). Existing causal approaches to fairness in the literature do not address this problem and assume that the causal model is available. In this paper, we do not make such assumption and we review the major algorithms to discover causal relations from observable data. This study focuses on causal discovery and its impact on fairness. In particular, we show how different causal discovery approaches may result in different causal models and, most importantly, how even slight differences between causal models can have significant impact on fairness/discrimination conclusions. These results are consolidated by empirical analysis using synthetic and standard fairness benchmark datasets. The main goal of this study is to highlight the importance of the causal discovery step to appropriately address fairness using causality.

研究动机与目标

• 探究因果发现算法如何影响机器学习中的公平性评估。
• 证明推断出的因果图的细微差异会导致公平性结论的显著差异。
• 强调因果模型生成在公平性评估流程中常被忽视的关键作用。
• 强调现有假设已知因果图的公平性方法，若缺乏稳健的因果发现，则存在缺陷。
• 倡导开发面向公平性的因果发现算法。

提出的方法

• 本研究在合成数据集和真实世界公平性基准数据集上评估了四种主流因果发现算法——PC、FCI、GES 和 SBCN。
• 采用基于约束的方法（PC、FCI）、基于评分的方法（GES）和基于结构方程模型的方法（SBCN），从未观测变量中推断因果图。
• 利用 do-演算和基于干预的估计方法，在推断出的图上计算因果效应（总效应、直接效应、间接效应、解释效应）。
• 进行中介分析，将因果效应分类为直接（不公平）、间接（通过代理变量导致的潜在不公）或解释（通过合法因素实现的公平）。
• 在不同因果结构之间比较公平性度量，如总效应（TE）、直接效应（DE）和间接歧视（ID）。
• 在 Communities and Crime 数据集和合成数据上进行实证验证，使用统计独立性检验指导图的构建。

实验结果

研究问题

• RQ1 不同因果发现算法如何从同一数据集中产生分歧的因果图？
• RQ2 推断出的因果结构差异在多大程度上改变了对公平性评估中歧视问题的结论？
• RQ3 某一变量（如年龄作为混淆因子 vs. 中介变量）的角色如何影响直接和间接歧视的估计？
• RQ4 即使总效应保持一致，是否存在错误的因果模型导致中介分析出错？
• RQ5 当假设特定因果结构（如 LiNGAM）时，若其在现实公平性数据中不成立，会产生何种影响？

主要发现

• 不同因果发现算法（PC、FCI、GES、SBCN）生成了不同的因果图，尤其在边的方向和混淆因子的存在性方面存在显著差异。
• 在种族与暴力之间的因果路径数量存在显著差异：PC、FCI、GES 和 SBCN 分别有 7 至 9 条路径，而 LiNGAM 仅有 1 条路径，表明 LiNGAM 的非高斯噪声假设可能被违反。
• 尽管图结构存在缺陷，LiNGAM 仍产生了与其它方法相近的总效应（TE ≈ 0.394），但错误地将所有歧视归因于直接效应，导致间接效应为零。
• 间接歧视（ID）度量在将年龄建模为混淆因子或中介变量时表现出极大差异，显示出对因果结构的高度敏感性。
• 直接效应（DE）在各方法间基本一致，但 LiNGAM 除外，其 DE 等于 TE，原因在于缺乏间接路径。
• 本研究证实，公平性结论——尤其是关于中介分析和路径特定效应的结论——关键取决于因果图的准确性，而不仅仅是总效应。