[論文レビュー] A Causal Perspective on Meaningful and Robust Algorithmic Recourse

Gunnar König, Timo Freiesleben+1 more|arXiv (Cornell University)|Jul 16, 2021

Machine Learning and Algorithms参考文献 20被引用数 11

ひとこと要約

本稿では、モデルが特定した行動が予測を変えるだけでなく、根本的な目的変数をも改善することを保証するため、意味のあるアルゴリズム的レコーシブ（MAR）とその緩和形態である効果的アルゴリズム的レコーシブ（EAR）を提案する。因果構造モデルと真の原因に対する干渉を活用することで、MARは、レコーシブ行動が意味的であり、モデル再適合に対しても頑健であることを保証する。これは、標準的な反事実的説明が、実世界の結果を改善しないままモデルを回避するインcentiveを生むという限界を補うものである。

ABSTRACT

Algorithmic recourse explanations inform stakeholders on how to act to revert unfavorable predictions. However, in general ML models do not predict well in interventional distributions. Thus, an action that changes the prediction in the desired way may not lead to an improvement of the underlying target. Such recourse is neither meaningful nor robust to model refits. Extending the work of Karimi et al. (2021), we propose meaningful algorithmic recourse (MAR) that only recommends actions that improve both prediction and target. We justify this selection constraint by highlighting the differences between model audit and meaningful, actionable recourse explanations. Additionally, we introduce a relaxation of MAR called effective algorithmic recourse (EAR), which, under certain assumptions, yields meaningful recourse by only allowing interventions on causes of the target.

研究の動機と目的

• 標準的なアルゴリズム的レコーシブが、実際の目的変数を改善しないまま予測のみを変える行動を推奨するという問題に対処すること。
• モデル監査（抗告可能性）と実行可能なレコーシブの区別を図り、意味のあるレコーシブを実現するため、後者により厳格な制約を求める。
• 目的変数の真の原因に対する干渉に焦点を当てることで、モデル再適合に対しても頑健なレコーシブ行動を保証する因果フレームワークの構築。
• 目的変数の完全な構造的反事実的要因を必要としない条件下で、MARをEARに緩和し、意味のあるレコーシブを計算的に実行可能にすること。
• 意味のないレコーシブが分布シフトを引き起こし、長期的なモデル信頼性を損なうメカニズムを示すこと。

提案手法

• MARを、モデルの予測 $\hat{Y}$ と根本的な目的変数 $Y$ の両方を一貫して改善する干渉のみを許容する制約として提案する。
• 構造的因果モデル（SCM）を用いてデータ生成過程を定義し、目的変数 $Y$ の直接原因、子孫、配偶者を同定する。
• 行動可能な変数 $X_i$ に対する do-計算の干渉 $do(X_i := a_i)$ を適用し、異なる行動下での反事実的結果をシミュレートする。
• 予測器がそのような干渉に対して安定であるという仮定の下で、MARの緩和形態としてEARを導入する。
• 目的変数 $Y$ のマークフ・ブラケットが、その原因に対する干渉に対して安定である条件を導出する。これにより、条件付き分布が推奨される行動によってシフトしないことが保証される。
• 干渉安定性と条件付き不変性の概念を用いて、モデル再トレーニング後でもレコーシブ行動が有効であることを保証する。

実験結果

リサーチクエスチョン

• RQ1 推奨される行動が予測と真の目的変数の両方を改善することを保証することで、アルゴリズム的レコーシブをモデル再適合に対して頑健にすることができるか？
• RQ2 モデル入力に対する干渉が $\hat{Y}$ と $Y$ の両方において一貫した改善をもたらすために満たすべき因果的条件は何か？
• RQ3 MARの厳密な要件をどのように緩和すれば、意味のないレコーシブを失うことなく計算的に実行可能にすることができるか？
• RQ4 どのような仮定のもとで、$Y$ の原因に制限された干渉によってEARは意味のあるレコーシブを提供するのか？
• RQ5 非因果的変数（例：「ミニバン」）を介したモデルの回避行動—つまり、予測を変えるが実際のリスクを改善しないレコーシブ—は、どのように分布シフトを引き起こし、モデルの頑健性を損なうのか？

主な発見

• MARは、すべての推奨される行動がモデルの予測 $\hat{Y}$ と根本的な目的変数 $Y$ の両方を改善することを保証するため、モデルの回避を防ぎ、長期的な頑健性を確保する。
• 完全な予測器（$f(x) = y$）と予測器の特徴集合 $S$ の干渉安定性を仮定すると、EARは反事実的予測 $\hat{y}^{SCF}$ が真の反事実的目的変数 $y^{SCF}$ と一致することを保証する。
• 目的変数 $Y$ のすべての直接原因、子孫、配偶者が観測可能な場合、$Y$ のマークフ・ブラケットはその原因に対する干渉に対して安定であり、一貫した条件付き分布が保証される。
• 動機づけの例における「ミニバン」のような非因果的変数は、モデルが利用可能になる可能性があり、予測を変えるが実際のリスクを改善しないレコーシブを生み出す。これにより、因果的推論の重要性が浮き彫りになる。
• 条件付き分布が不変であっても、結合分布がシフトする干渉は、モデル再適合によってレコーシブの推奨が無効になる可能性がある。これは、因果的安定性の必要性を強調する。
• 本稿は、モデル当局が、誤った相関関係よりも真の原因の観測を優先すべきであることを示し、モデル監査と実行可能なレコーシブの整合性を高め、意味のない推奨のリスクを低減する。