[論文レビュー] Explaining Predictions by Approximating the Local Decision Boundary

Georgios Vlassopoulos, Tim van Erven+2 more|arXiv (Cornell University)|Jun 14, 2020

Explainable Artificial Intelligence (XAI)参考文献 39被引用数 6

ひとこと要約

本稿では、学習された潜在空間を用いて局所的決定境界を近似することで、バイナリ分類器の予測を説明するモデルに依存しない手法、Local Decision Boundary Approximation (DBA) を提案する。変分オートエンコーダーを用いて意味のあるメトリクス学習と属性に配慮した潜在表現を実現し、ユーザーが指定する解釈可能な説明を可能にし、画像および表形式データにおいて既存手法を上回る性能を発揮する。

ABSTRACT

Constructing accurate model-agnostic explanations for opaque machine learning models remains a challenging task. Classification models for high-dimensional data, like images, are often inherently complex. To reduce this complexity, individual predictions may be explained locally, either in terms of a simpler local surrogate model or by communicating how the predictions contrast with those of another class. However, existing approaches still fall short in the following ways: a) they measure locality using a (Euclidean) metric that is not meaningful for non-linear high-dimensional data; or b) they do not attempt to explain the decision boundary, which is the most relevant characteristic of classifiers that are optimized for classification accuracy; or c) they do not give the user any freedom in specifying attributes that are meaningful to them. We address these issues in a new procedure for local decision boundary approximation (DBA). To construct a meaningful metric, we train a variational autoencoder to learn a Euclidean latent space of encoded data representations. We impose interpretability by exploiting attribute annotations to map the latent space to attributes that are meaningful to the user. A difficulty in evaluating explainability approaches is the lack of a ground truth. We address this by introducing a new benchmark data set with artificially generated Iris images, and showing that we can recover the latent attributes that locally determine the class. We further evaluate our approach on tabular data and on the CelebA image data set.

研究の動機と目的

• 画像のような高次元データに対して、局所性を意味的に測定できる既存の局所的説明手法の限界を解消すること。
• 予測確率の不正確な推定ではなく、決定境界に焦点を当てた説明を保証すること。
• ユーザーが分野固有の理解に基づいて、どの属性を説明に使用するかを制御できること。
• 分類を決定する潜在属性の回復を評価するため、人工的に生成されたアイris画像を用いたベンチマークを構築すること。

提案手法

• 高次元データから、分離可能でユークリッド空間である潜在空間を学習するため、条件付き変分オートエンコーダー（CVAE）を訓練し、意味的な局所的距離測定を可能にする。
• 属性アノテーションを用いて潜在空間をユーザー指定の解釈可能な属性にマッピングし、説明の関連性を向上させる。
• 与えられた入力から最も近い決定境界上の点を特定し、その周囲で潜在空間に点をサンプリングすることで、局所的決定境界を近似する。
• サンプリングされた点に対して線形のスレーブモデルをフィットさせ、特徴量の寄与度を特定し、係数を局所的説明重みとして解釈する。
• 潜在属性の回復と説明の正確性を評価するため、人工的に生成されたアイris画像を用いた新しいベンチマークを導入する。
• CelebAおよび表形式データに本手法を適用し、定量的および定性的な評価を通じてLIME-AttおよびCEM-MAFと性能を比較する。

実験結果

リサーチクエスチョン

• RQ1 学習された潜在空間は、ユークリッド距離よりも高次元データにおける局所性の意味的測定に優れているか？
• RQ2 確率推定ではなく決定境界に焦点を当てることで、局所的説明の正確性と解釈可能性が向上するか？
• RQ3 ユーザーが指定した属性は、効果的に学習され、文脈的に関連した説明を生成するために使用できるか？
• RQ4 制御された合成データにおいて、分類を決定する真の潜在属性をどの程度回復できるか？
• RQ5 画像および表形式データの両方において、DBAはLIME-AttおよびCEM-MAFと比較して、説明の質と頑健性に優れているか？

主な発見

• DBA手法は、人工的に生成されたアイris画像に使用された真の潜在属性を正確に回復しており、制御された環境下での正確な属性回復を示している。
• CelebAデータセットでは、DBA-Attがユーザー指定の属性に一致する説明を生成しており、潜在空間の方向変化が期待される顔貌属性の遷移を生じさせることを可視化で確認している。
• VAEにおいて高い品質の再構成が達成されており、再構成画像は元の入力と類似した分類確率を保持している。
• DBA-Attは、わずかな変更で決定境界を crosses する最小限で意味のある摂動を生成する点で、LIME-AttおよびCEM-MAFを上回っている。
• CNN分類器はCelebAで91.5％のテスト精度を達成しており、DBA-Attは潜在空間における最小限で解釈可能な変化を用いて予測を成功裏に説明している。
• 潜在空間の補間を用いることで、与えられた入力から決定境界への滑らかな遷移が可視化可能であり、本手法が最小限で関連のある変更を特定できることを確認している。