[論文レビュー] Algorithmic recourse under imperfect causal knowledge: a probabilistic approach

Amir-Hossein Karimi, Julius von Kügelgen+2 more|arXiv (Cornell University)|Jun 11, 2020

Explainable Artificial Intelligence (XAI)参考文献 60被引用数 72

ひとこと要約

この論文は、不完全な因果知識の下でアルゴリズム的リコースを計算する2つの確率的方法を提案する: (i) 個別リコースのためのガウス過程ベースの反事実、(ii) CVAEを用いた条件付き平均処置効果によるサブポピュレーションベースのリコース、介入を選択するための勾配ベースの最適化。

ABSTRACT

Recent work has discussed the limitations of counterfactual explanations to recommend actions for algorithmic recourse, and argued for the need of taking causal relationships between features into consideration. Unfortunately, in practice, the true underlying structural causal model is generally unknown. In this work, we first show that it is impossible to guarantee recourse without access to the true structural equations. To address this limitation, we propose two probabilistic approaches to select optimal actions that achieve recourse with high probability given limited causal knowledge (e.g., only the causal graph). The first captures uncertainty over structural equations under additive Gaussian noise, and uses Bayesian model averaging to estimate the counterfactual distribution. The second removes any assumptions on the structural equations by instead computing the average effect of recourse actions on individuals similar to the person who seeks recourse, leading to a novel subpopulation-based interventional notion of recourse. We then derive a gradient-based procedure for selecting optimal recourse actions, and empirically show that the proposed approaches lead to more reliable recommendations under imperfect causal knowledge than non-probabilistic baselines.

研究の動機と目的

• 因果知識の不確実性を考慮した因果知識対応のアルゴリズム的リコースの必要性を動機づける.
• 真の構造方程式を知ることがガイドラインの保証には不可避であることを示す; ただし一般には実現不可能.
• 限られた因果知識の下で高確率で最適なリコース行動を選択するための2つの確率的方法を開発.
• 不確実性の下でリコースを達成するコスト効率の高い行動を見つける勾配ベースの最適化法を提供.
• 確率的方法が信頼性とコストの点で非確率的ベースラインを上回ることを経験的に示す.

提案手法

• 不確実性を持つ構造方程式をガウス過程ベースの構造的因果モデル（gp-scm）でモデリングし、加法的ガウスノイズを用いて反事実の分布を得る.
• 介入の祖先サンプリングとGPノイズ後方分布を用いて介入の子孫の反事実分布を計算.
• 期待分類器結果の制約下で行動コストを最小化する確率的リコース最適化目的を定義し、閾値として下限信頼区間を用いる.
• 条件付き変分自動エンコーダー（cvae）を用いた条件付き平均処置効果（cate）によるサブポピュレーションベースのリコースを導入し、介入分布を推定.
• 因果充足性の下で観測可能に同定される interventional distributions P(X_d(I) | do(X_I=theta), X_nd(I)=x_nd) を特定し、CVAEsでモデリング.
• モンテカルロ推定の期待値を微分可能とし、勾配ベースのラグランジュ法で最適化問題を解く。

実験結果

リサーチクエスチョン

• RQ1 真の構造方程式が未知の場合、リコース保証は達成できるか?
• RQ2 確率モデルを用いて不完全な因果知識の下で信頼できるリコース行動をどう計算するか?
• RQ3 gp-scmベースの反事実とサブポピュレーションベースの介入アプローチは、非確率的ベースラインより低コスト・高適合性のリコースを生み出すか?
• RQ4 構造方程式の形が誤指定されている場合、サブポピュレーションベースのリコース（cateベース）の方が好ましいか?

主な発見

手法	線形 scm	非線形 ANM	非加法 scm
M_star	100	-	10.9 ± 7.9	100	-	20.1 ± 12.3	100	-	13.2 ± 11.0
M_lin	100	-	11.0 ± 7.0	54	-	20.6 ± 11.0	98	-	14.0 ± 13.5
M_kr	90	-	10.7 ± 6.5	91	-	20.6 ± 12.5	70	-	13.2 ± 11.6
M_gp	100	.55 ± .04	12.2 ± 8.3	100	.54 ± .03	21.9 ± 12.9	95	.52 ± .04	13.4 ± 12.8
M_cvae	100	.55 ± .07	11.8 ± 7.7	97	.54 ± .05	22.6 ± 12.3	95	.51 ± .01	13.4 ± 12.2
cate_star	90	.56 ± .07	11.9 ± 9.2	97	.55 ± .05	26.3 ± 21.4	100	.52 ± .02	13.5 ± 13.0
cate_gp	93	.56 ± .05	12.2 ± 8.4	94	.55 ± .06	25.0 ± 14.8	94	.52 ± .03	13.2 ± 13.1
cate_cvae	89	.56 ± .08	12.1 ± 8.9	98	.54 ± .05	26.0 ± 14.3	100	.52 ± .05	13.6 ± 12.9

• 不完全な因果知識下での確率的リコース手法は、非確率的ベースラインと比較して信頼性が高く、コストを適度に抑制できる。
• GPベースのリコース（gp-scm）は堅牢な妥当性を達成する（設定によっては100%）で、モニタ可能なLCB値を持ち、特定の状況でコストは高くなる。
• cate（cvae）によるサブポピュレーションベースのリコースは、異なる SCM ファミリに対して強い性能を示し、しばしばoracle性能に匹敵または近づく。
• 3変数の合成 SCM（線形、非線形 ANM、非加法）全般で、確率的手法はリライアビリティとコストの点で点推定ベースラインを上回る。
• 勾配ベースの最適化は、モデルベースの期待値を微分することにより高品質なリコース行動を効率的に見つける。