[论文解读] Transport-based Counterfactual Models

de Lara, Lucas, González-Sanz, Alberto+3 more|arXiv (Cornell University)|Aug 30, 2021

Ethics and Social Impacts of AI参考文献 67被引用 57

一句话总结

论文提出基于运输的对反事实模型，用以用最优传输耦合取代未知的因果模型，从而生成真实且分布内的对反事实，并实现可行的公平性应用。

ABSTRACT

Counterfactual frameworks have grown popular in machine learning for both explaining algorithmic decisions but also defining individual notions of fairness, more intuitive than typical group fairness conditions. However, state-of-the-art models to compute counterfactuals are either unrealistic or unfeasible. In particular, while Pearl's causal inference provides appealing rules to calculate counterfactuals, it relies on a model that is unknown and hard to discover in practice. We address the problem of designing realistic and feasible counterfactuals in the absence of a causal model. We define transport-based counterfactual models as collections of joint probability distributions between observable distributions, and show their connection to causal counterfactuals. More specifically, we argue that optimal-transport theory defines relevant transport-based counterfactual models, as they are numerically feasible, statistically-faithful, and can coincide under some assumptions with causal counterfactual models. Finally, these models make counterfactual approaches to fairness feasible, and we illustrate their practicality and efficiency on fair learning. With this paper, we aim at laying out the theoretical foundations for a new, implementable approach to counterfactual thinking.

研究动机与目标

• 在因果模型未知或难以学习时，说明需要现实的对反事实的动机。
• 引入一种基于运输的框架，将对反事实与可观测分布之间的联合耦合联系起来。
• 展示最优传输如何产生可行的、分布内的对反事实，并将其与因果对反事实相关联。
• 开发基于运输的对反事实公平性准则，并展示其在公平监督学习中的应用。

提出的方法

• 将对反事实模型定义为可观测分布之间的联合分布（耦合）的集合。
• 回顾Pearl的因果框架，并引入质量传输基础作为对反事实的统一视角。
• 在特定假设下，建立最优传输映射（二次代价）与因果对反事实之间的联系。
• 将基于运输的对反事实表述为结构性对反事实耦合，并将其与do-干预框架相关联。
• 将基于运输的视角应用于公平性，重新表述对反事实公平性准则，并提出无因果性约束的训练公平分类器的准则。

实验结果

研究问题

• RQ1 在缺少已知因果模型的情况下，如何通过基于运输的耦合来再现对反事实陈述？
• RQ2 在哪些假设下，最优传输映射能够恢复因果对反事实？
• RQ3 如何利用基于运输的对反事实来定义和学习公平的分类器？
• RQ4 在对反事实推理中用基于运输的代理替代因果模型的实际收益与局限性是什么？

主要发现

• 基于运输的对反事实模型提供了一个可行的、分布内的替代方案，相对于因果对反事实。
• 在某些假设下，带有二次代价的最优传输映射可以生成与某些线性可加因果模型相同的对反事实实例。
• 对反事实公平性准则可以在基于运输的框架中重新表述，从而实现无因果性地公平学习。
• 该方法提供实际的统计保证，并支持在公平性数据集上的数值实验。