[論文レビュー] Latent-CF: A Simple Baseline for Reverse Counterfactual Explanations

Rachana Balasubramanian, Samuel Sharpe+3 more|arXiv (Cornell University)|Dec 16, 2020

Explainable Artificial Intelligence (XAI)参考文献 20被引用数 14

ひとこと要約

Latent-CF は、変分オートエンコーダーの潜在空間で最適化することにより、計算効率、スパarsity、分布内性のバランスをとった、逆方向の対照的説明のための単純で効果的なベースラインを提案する。MNISTおよびLending Clubのデータセットにおいて、分布内性の観点で特徴空間勾配法を上回り、より複雑なモデル（例：プロトタイプ）と同等またはそれを上回るスパarsityと現実性を達成している。

ABSTRACT

In the environment of fair lending laws and the General Data Protection Regulation (GDPR), the ability to explain a model's prediction is of paramount importance. High quality explanations are the first step in assessing fairness. Counterfactuals are valuable tools for explainability. They provide actionable, comprehensible explanations for the individual who is subject to decisions made from the prediction. It is important to find a baseline for producing them. We propose a simple method for generating counterfactuals by using gradient descent to search in the latent space of an autoencoder and benchmark our method against approaches that search for counterfactuals in feature space. Additionally, we implement metrics to concretely evaluate the quality of the counterfactuals. We show that latent space counterfactual generation strikes a balance between the speed of basic feature gradient descent methods and the sparseness and authenticity of counterfactuals generated by more complex feature space oriented techniques.

研究の動機と目的

• GDPR などの規制のもとで、高リスクなAI意思決定における実行可能で解釈可能な説明の増大するニーズに対応すること。
• スパarsity、計算速度、データ分布への適合性のバランスをとった、単純で効率的な対照的説明生成のベースラインを提案すること。
• 分布内性、スパarsity、計算効率に焦点を当てた指標を用いて、対照的説明の品質を評価すること。
• 潜在空間最適化が、特徴空間勾配法に比べて現実的でスパースな対照的説明を生成することを示すこと。
• 原理的で包括的な評価フレームワークを用いて、将来の対照的説明生成手法のベンチマークを確立すること。

提案手法

• 分類器に使用されたのと同じ訓練データ上で変分オートエンコーダー（VAE）を訓練し、コンactかつ分離可能な潜在表現を学習する。
• 訓練済みエンコーダーを用いて入力サンプルを潜在空間にエンコードする。
• 元の潜在コードに近づけるように制約を加えつつ、ターゲットクラスの予測誤差を最小化するように、勾配降下法で潜在コードを最適化する。
• 最適化された潜在コードをデコードし、元の入力空間における最終的な対照的サンプルを生成する。
• 潜在空間での勾配計算を可能にするために、微分可能分類器を用い、エンドツーエンド最適化を実現する。
• 正則化とクリッピングを適用し、対照的説明が元のサンプルに近づき、データ分布の性質を保つようにする。

実験結果

リサーチクエスチョン

• RQ1 潜在空間最適化は、特徴空間勾配法に比べて、スパースかつ分布内性を満たす対照的説明を生成できるか？
• RQ2 潜在空間最適化の計算効率は、プロトタイプのようなより複雑な特徴ベース手法と比べてどうか？
• RQ3 標準オートエンコーダーではなく変分オートエンコーダーを用いることで、対照的説明の品質に顕著な向上が得られるか？
• RQ4 特徴勾配降下法と比較して、Latent-CF が生成する対照的説明の特徴変更パターンと現実性はいかがなっているか？
• RQ5 潜在空間表現が、個々の意思決定に意味のある、実行可能な変更をどのように保持しているか？

主な発見

• Latent-CF は、特に画像のエッジ部で分布外の変更を生じる特徴空間勾配法と比べ、顕著に分布内性が高い対照的説明を生成する。
• スパarsityが高く、MNISTの対照的説明では10%未満の画素が変更されているのに対し、FGDベースの手法では50%以上が変更されている。
• 高次元・低次元の両方のデータで一貫した性能を示し、MNISTおよびLending Clubの表形式データにおいて、特徴空間手法を上回っている。
• 特徴勾配降下法（FGD, FGD+C, FGD+MAD）は、複数のリスク要因を同時に減少させるなど、相関の高い変更パターンを生じるが、これは現実的な行動変化を反映しているとは限らない。
• プロトタイプとLatent-CF は、入力の連合分布に依存する多様でサンプル固有の対照的説明を生成するが、FGDベースの手法は一様な変更パターンを示す。
• 潜在空間の正則化は、主な指標においてはわずかな利点しか得られないが、高次元設定ではわずかに効果がある可能性がある。