[論文レビュー] Towards Robust and Reliable Algorithmic Recourse

Sohini Upadhyay, Shalmali Joshi+1 more|arXiv (Cornell University)|Feb 26, 2021

Explainable Artificial Intelligence (XAI)参考文献 31被引用数 37

ひとこと要約

ROARは、モデルのシフト下でも有効な反実仮想リコースを生成するミニマックス枠組みを提案し、理論的境界と実証的な頑健性が強い（実データセット全体でベースラインより67–100％高い頑健性）を示す。

ABSTRACT

As predictive models are increasingly being deployed in high-stakes decision making (e.g., loan approvals), there has been growing interest in post hoc techniques which provide recourse to affected individuals. These techniques generate recourses under the assumption that the underlying predictive model does not change. However, in practice, models are often regularly updated for a variety of reasons (e.g., dataset shifts), thereby rendering previously prescribed recourses ineffective. To address this problem, we propose a novel framework, RObust Algorithmic Recourse (ROAR), that leverages adversarial training for finding recourses that are robust to model shifts. To the best of our knowledge, this work proposes the first solution to this critical problem. We also carry out detailed theoretical analysis which underscores the importance of constructing recourses that are robust to model shifts: 1) we derive a lower bound on the probability of invalidation of recourses generated by existing approaches which are not robust to model shifts. 2) we prove that the additional cost incurred due to the robust recourses output by our framework is bounded. Experimental evaluation on multiple synthetic and real-world datasets demonstrates the efficacy of the proposed framework and supports our theoretical findings.

研究の動機と目的

• データ分布のシフトにより予測モデルが更新されても有効なリコース手法の必要性を動機づける。
• 起こりうるモデルのシフトに対して頑健な反実仮想を生成するミニマックス目的を提案する。
• 非頑健なリコースの無効化確率および頑健なリコースのコスト増加に関する理論的境界を提供する。
• さまざまなシフトシナリオの下で、合成データと実世界データセットに対するROARの実証的頑健性を示す。

提案手法

• ROARを導入する。妥当なモデルのシフトDeltaの集合に対して最悪ケース損失を最小化するミニマックス目的。
• 局所線形の代理モデルf_wを用いて一般的な予測モデルを近似し、パラメータ空間の摂動deltaを可能にする。
• 反実仮想リコースx''を、min_{x'' in A} max_{delta in Delta} ell(f_{w+delta}(x''), 1) + lambda c(x, x'')の解として定義する。
• Deltaを、特徴ごとの境界 (delta_min <= delta_i <= delta_max) またはノルム球 (||delta||_p <= delta_max) のいずれかとして指定する。
• モデル摂動を最大化することと勾配でリコースを更新することを交互に行う、敵対的訓練に触発された最適化手順（Algorithm 1）を開発し、収束するまで繰り返す。

実験結果

リサーチクエスチョン

• RQ1 分布の変化によって誘発されるモデルシフトに対して、既存のリコース法はどれだけ脆弱か。
• RQ2 妥当なモデルの摂動下でも有効なリコースを定式化・最適化しつつ、リコースコストを制御できるか。
• RQ3 頑健なリコースを用いた場合の無効化確率とコストの上昇の理論的限界（下限/上限）は何か。
• RQ4 補正、時系列、地理的シフトを含むデータセットに対して、過度なコストをかけずに頑健なリコースは実世界での頑健性を向上させるか。

主な発見

• ROARベースのリコースは、実世界データセット全体で最先端のベースラインよりもモデルシフトに対して著しく頑健であり（頑健性が67–100%向上）。
• ROARは元のモデルに対して高い妥当性を達成し（しばしば95%超）、シフトしたモデルへの頑健性を大幅に向上させる。
• このフレームワークは理論的保証を提供する。非頑健なリコースの無効化確率の下限と、頑健なリコースの追加コストの上限。
• モデリングされたシフト下では、頑健なリコースのコスト増加は非頑健なものに対して有界であり、実用的な実行可能性を維持する。
• ドイツの信用、SBA、地理空間/時系列データセットでの実証評価は、複数のベースライン（CFE、AR、MINT、ROARの変種）に対するROARの有効性を示している。