[論文レビュー] Algorithmic Recourse: from Counterfactual Explanations to Interventions

Amir-Hossein Karimi, Bernhard Schölkopf+1 more|arXiv (Cornell University)|Feb 14, 2020

Explainable Artificial Intelligence (XAI)参考文献 50被引用数 72

ひとこと要約

本論文は、counterfactual explanationsだけでは実 actionable recourse に不十分であると主張し、因果モデルを用いて予測を変更するコスト効率的で実行可能な行動を提供する最小介入フレームワーク（MINT）を導入する。最小介入によるrecourseは、syntheticおよびreal-world settingsの双方で、従来のcounterfactual-explanation-based recourseを凌ぐことができることを示す。

ABSTRACT

As machine learning is increasingly used to inform consequential decision-making (e.g., pre-trial bail and loan approval), it becomes important to explain how the system arrived at its decision, and also suggest actions to achieve a favorable decision. Counterfactual explanations -- "how the world would have (had) to be different for a desirable outcome to occur" -- aim to satisfy these criteria. Existing works have primarily focused on designing algorithms to obtain counterfactual explanations for a wide range of settings. However, one of the main objectives of "explanations as a means to help a data-subject act rather than merely understand" has been overlooked. In layman's terms, counterfactual explanations inform an individual where they need to get to, but not how to get there. In this work, we rely on causal reasoning to caution against the use of counterfactual explanations as a recommendable set of actions for recourse. Instead, we propose a shift of paradigm from recourse via nearest counterfactual explanations to recourse through minimal interventions, moving the focus from explanations to recommendations. Finally, we provide the reader with an extensive discussion on how to realistically achieve recourse beyond structural interventions.

研究の動機と目的

• Consequential decisionsでcounterfactual explanationsを超えるactionable recourseの必要性を動機づける。
• nearest counterfactualsが個人にとって実現可能な行動へ直接翻訳されるという仮定を批判する。
• 最小介入を用いた因果 reformulation を提案して、望ましいモデル結果を達成する。
• syntheticおよびreal-world dataを通じて、minimal interventionsがCFE-based recourseよりも安価で実現可能であることを示す。

提案手法

• SCMにexisting counterfactual explanationsを組み込んで制約を分析する。
• do-operatorを用いてactionsを介入として形式化し、Abduction-Action-Predictionを用いて構造的counterfactualsを計算する。
• CFE-based actionsを定義し、因果依存性の下で保証されたrecourseの必要十分条件を示す。
• h(xSCF)が変化することを保証しつつ、action costを最小化するMinimal Interventions (MINT)最適化を導入して解く。

実験結果

リサーチクエスチョン

• RQ1 因果依存性の下でcounterfactual explanationsから直接deriveしたrecourse actionsの内在的な制限は何か。
• RQ2 causal model内でminimal interventionsとしてactionsを位置づけることでrecourseをより信頼性高く cheaplyに達成できるのか。
• RQ3 syntheticおよびreal-world settingsの両方で、提案されたMinimal InterventionsフレームワークはCFE-based recourseとどのように比較されるのか。

主な発見

• CFE-based recourseは、因果依存性のある非独立な世界ではsuboptimalまたはinfeasibleである可能性がある。
• recourseをminimal interventionsへ再定式化することで、実現可能な行動セットを選択した場合、raw counterfactual shiftsよりも低コストで guaranteed recourseを得られる。
• syntheticおよびGerman credit datasetの実験では、minimal interventionsの方がCFE-based actionsと比較して、個人が望ましいモデル結果を得るために要する労力が少なくなる。
• Abduction-Action-Prediction frameworkは、加法ノイズ SCMs内の任意の実行可能な行動集合について構造的counterfactualsを計算することを可能にする。
• Minimal Interventions (MINT)は、介入の下流効果を非介入変数に及ぼす影響を考慮して行動を選択する体系的な方法を提供する。