[論文レビュー] Counterfactual Explanations via Latent Space Projection and Interpolation

Brian Barr, Matthew R. Harrington+2 more|arXiv (Cornell University)|Dec 1, 2021

Explainable Artificial Intelligence (XAI)被引用数 4

ひとこと要約

SharpShooter は、潜在空間への射影と補間を用いて、2つの変分自己オートエンコーダー（VAE）を用いて、入力をターゲットクラスに近づけ、実際的でスパースな反事実的説明を生成するモデルに依存しない手法である。この手法は、勾配ベースのベースラインと比較して最大1,000倍高速な推論を達成しながら、表形式および画像データセットにおいて高い現実性と妥当性を維持している。

ABSTRACT

Counterfactual explanations represent the minimal change to a data sample that alters its predicted classification, typically from an unfavorable initial class to a desired target class. Counterfactuals help answer questions such as "what needs to change for this application to get accepted for a loan?". A number of recently proposed approaches to counterfactual generation give varying definitions of "plausible" counterfactuals and methods to generate them. However, many of these methods are computationally intensive and provide unconvincing explanations. Here we introduce SharpShooter, a method for binary classification that starts by creating a projected version of the input that classifies as the target class. Counterfactual candidates are then generated in latent space on the interpolation line between the input and its projection. We then demonstrate that our framework translates core characteristics of a sample to its counterfactual through the use of learned representations. Furthermore, we show that SharpShooter is competitive across common quality metrics on tabular and image datasets while being orders of magnitude faster than two comparable methods and excels at measures of realism, making it well-suited for high velocity machine learning applications which require timely explanations.

研究の動機と目的

• 機械学習のデプロイメントパイプラインにおける中間者向けに、効率的で現実的かつ妥当な反事実的説明が不足しているという問題に対処すること。
• 特に高次元またはカテゴリカルなデータにおいて、既存の反事実的生成手法の計算上の非効率性と非妥当性を克服すること。
• 変分自己オートエンコーダーから学習された潜在表現を活用することで、反事実的説明の現実性とスパarsityを向上させること。
• タイムリーな説明を必要とする高スループットの機械学習アプリケーションに適したスケーラブルでモデルに依存しないフレームワークを提供すること。
• 解釈可能性を高めるために、意思決定境界と反事実的経路の新しい可視化を導入すること。

提案手法

• SharpShooter は、入力サンプルを潜在空間に射影するためのターゲット用変分自己オートエンコーダー（VAE）を用い、その再構成出力が望ましいターゲットクラスに分類されるようにする。
• 元の入力の潜在コードと射影されたターゲット潜在コードの間に線形補間を実行することで、反事実的候補を生成する。
• この手法は2つのVAEを活用する：1つは元のデータ分布を、もう1つは潜在空間におけるターゲットクラス分布を特徴付けるように微調整されたものである。
• 反事実的説明は、補間された潜在ベクトルからデコードされ、妥当性、近接性、スパarsity、再構成品質の観点から評価される。
• フレームワークはモデルに依存せず、完全に潜在空間内で動作するため、効率的な探索とより良い一般化が可能である。
• 意思決定境界と反事実的経路を、統合された潜在表現空間上でマップする新しい可視化技術が導入されている。

実験結果

リサーチクエスチョン

• RQ1 潜在空間補間は、勾配ベースの手法と比較して、現実的で計算的にも効率的な反事実的説明を生成できるか？
• RQ2 表形式および画像データセットにおいて、潜在空間射影による反事実的説明は、元の入力からの近接性とスパarsityの観点でどのように比較されるか？
• RQ3 特に高次元のカテゴリカルデータにおいて、カテゴリカル変数の妥当性をどの程度保持できるか？
• RQ4 この手法は、敵対的でない摂動を伴う、インサンプルかつ意味的に妥当な反事実的説明を生成できるか？
• RQ5 潜在空間の構造が、得られる反事実的説明の品質と解釈可能性にどのように影響を与えるか？

主な発見

• SharpShooter は、Lending Club データセットでは1.6×10⁻³秒、UCI クレジット データセットでは1×10⁻³秒の推論時間を記録し、すべてのデータセットで GDL や GDI と比較して最大1,000倍高速な推論を達成した。
• UCI クレジット データセットでは、SharpShooter は妥当性スコア 0.505、近接性 3.99、スパarsity 0.309 を達成し、現実性と妥当性の両面で GDL や GDI を上回った。
• Lending Club データセットでは、SharpShooter は妥当性 0.98、スパarsity 0.49 を達成し、GDI（0.037）や GDL（0.015）よりも顕著に低い再構成誤差（0.019）を示した。
• 図4および図5では、SharpShooter が連続変数およびカテゴリカル変数においてより現実的な変化を生成していることが示されている。例えば、支払額の削減や支払いの即時性の向上といった変化が、勾配ベース手法が極端または現実的でない変化をもたらすのとは対照的である。
• 2次元の低次元潜在空間では、SharpShooter は高い妥当性（0.98）を維持し、ローン金額への変更を最小限に抑えながら反事実的説明を生成した。これに対して GDL は、自己負担率や収入を著しく変更していた。
• 新規に導入された指標による評価では、この手法は優れた現実性を示し、特にカテゴリカル特徴空間において、より意味的に妥当で実行可能である反事実的説明を生成した。