[論文レビュー] Transport-based Counterfactual Models

de Lara, Lucas, González-Sanz, Alberto+3 more|arXiv (Cornell University)|Aug 30, 2021

Ethics and Social Impacts of AI参考文献 67被引用数 57

ひとこと要約

本論文は、既知の因果モデルを最適輸送結合で置換し、現実的で分布内の反事実を生成し、公平性の適用を可能にする輸送ベースの反事実モデルを提案する。

ABSTRACT

Counterfactual frameworks have grown popular in machine learning for both explaining algorithmic decisions but also defining individual notions of fairness, more intuitive than typical group fairness conditions. However, state-of-the-art models to compute counterfactuals are either unrealistic or unfeasible. In particular, while Pearl's causal inference provides appealing rules to calculate counterfactuals, it relies on a model that is unknown and hard to discover in practice. We address the problem of designing realistic and feasible counterfactuals in the absence of a causal model. We define transport-based counterfactual models as collections of joint probability distributions between observable distributions, and show their connection to causal counterfactuals. More specifically, we argue that optimal-transport theory defines relevant transport-based counterfactual models, as they are numerically feasible, statistically-faithful, and can coincide under some assumptions with causal counterfactual models. Finally, these models make counterfactual approaches to fairness feasible, and we illustrate their practicality and efficiency on fair learning. With this paper, we aim at laying out the theoretical foundations for a new, implementable approach to counterfactual thinking.

研究の動機と目的

• 因果モデルが未知であるか学習が困難な場合に、現実的な反事実の必要性を動機づける。
• 観測可能な分布間の結合（カップリング）を反事実と結びつける輸送ベースの枠組みを導入する。
• 最適輸送が実行可能で分布内の反事実を生み出す方法を示し、それらを因果反事実と関連づける。
• 輸送ベースの反事実フェアネス基準を開発し、公正な教師あり学習におけるその適用を実証する。

提案手法

• 反事実モデルを、観測可能な分布間の結合の集合として定義する。
• Pearlの因果フレームワークを概観し、反事実の統一的な視点として質量輸送の基盤を導入する。
• 特定の仮定の下で、最適輸送マップ（二次コスト）と因果的反事実との関連を確立する。
• 輸送ベースの反事実を構造的反事実カップリングとして定式化し、do介入フレームワークと関連づける。
• 公平性への輸送ベースの視点を適用し、反事実フェアネス基準を再定式化し、因果性のない公正な分類器を学習するための基準を提案する。）

実験結果

リサーチクエスチョン

• RQ1 既知の因果モデルがない状態で、輸送ベースのカップリングはどのように反事実の述語を再現できるか？
• RQ2 どのような仮定の下で最適輸送マップが因果的反事実を回収するのか？
• RQ3 輸送ベースの反事実を用いて公正な分類器を定義・学習するにはどうすればよいか？
• RQ4 因果モデルを輸送ベースの代理モデルに置き換えることの実用的な利点と限界は何か？

主な発見

• 輸送ベースの反事実モデルは、因果反事実への実行可能で分布内の代替手段を提供する。
• 二次コストを持つ最適輸送マップは、特定の仮定の下で線形加法的因果モデルと同じ反事実インスタンスを生成できる。
• 反事実フェアネス基準は輸送ベースの枠組みで再定式化でき、因果性なしの公正な学習を可能にする。
• この手法は実用的な統計的保証を提供し、公平性データセットでの数値実験を支持する。