[論文レビュー] Generative Counterfactual Introspection for Explainable Deep Learning

Shusen Liu, Bhavya Kailkhura+2 more|arXiv (Cornell University)|Jul 6, 2019

Explainable Artificial Intelligence (XAI)参考文献 25被引用数 32

ひとこと要約

本論文は、GANを用いて入力を編集し、深層分類器の判定可能で実用的な説明を得るための生成的反事実内省フレームワークを提案し、MNISTとCelebAで反事実プロトタイプと批評を生み出す。

ABSTRACT

In this work, we propose an introspection technique for deep neural networks that relies on a generative model to instigate salient editing of the input image for model interpretation. Such modification provides the fundamental interventional operation that allows us to obtain answers to counterfactual inquiries, i.e., what meaningful change can be made to the input image in order to alter the prediction. We demonstrate how to reveal interesting properties of the given classifiers by utilizing the proposed introspection approach on both the MNIST and the CelebA dataset.

研究の動機と目的

• 深層ネットの相関ベースの内省を超えた因果的・反事実的説明の必要性を動機付ける。
• 解釈可能なプロトタイプと批評を説明として生成する生成的反事実フレームワークを提案する。
• 潜在コードや属性ベースの操作を介して最小限で実用的な入力編集を可能にし、モデルの決定境界を明らかにする。

提案手法

• 反事実説明を、生成モデルを介して入力の最小変更編集として定式化する。
• GANsを用いて属性 A または潜在コード Lo を編集し、所望のクラス変化を伴う I* = G(I;A*) を生成する。
• 分類損失と画像再構成損失を組み合わせた緩和された目的関数を最適化して、有意義な編集を見つける。
• 編集ターゲットとして、既知の属性（A）または学習された潜在表現（Lo）を提供する。
• 微分可能な C と G を用いた勾配ベースの最適化により、反事実プロトタイプと批評を得る。

実験結果

リサーチクエスチョン

• RQ1 識別性が高く実用的な反事実視覚的説明をどのように生成できるか？
• RQ2 生成的編集はサリエンシーマップを超えた分類器の意味のある決定境界特性を明らかにできるか？
• RQ3 プロトタイプと批評の説明は、基礎となるデータ分布や訓練セットの潜在的な偏りを反映しているか？

主な発見

• MNIST では、分類器の境界に沿って数字を変える意味のある編集を示し、妥当な数字画像の多様体を探索する。
• プロトタイプは、画像をクラス中心へと変形させる方法を示し、クラス構造と分類器の好みを明らかにする。
• 正則化は滑らかで最小限の編集と解釈可能な反事実パスを生み出す。
• CelebA では、属性編集（例：年齢方向）により他の特徴を保ったまま予測を反転させ、属性分布の偏りを明らかにする。
• 本手法は、CelebA における眼鏡と年齢ラベルとの相関など、訓練データに潜む潜在的な偏りを露呈させる。
• 反事実を達成するために変更が最も多く必要な属性を列挙することで、実用的な洞察を提供する。