[論文レビュー] A Modified Perturbed Sampling Method for Local Interpretable Model-agnostic Explanation

Sheng Shi, Xinfeng Zhang+1 more|arXiv (Cornell University)|Feb 18, 2020

Explainable Artificial Intelligence (XAI)被引用数 16

ひとこと要約

本稿では、画像データにおける特徴相関をモデル化するために、スーパーピクセルを無向グラフに変換し、サンプリングをクリーク集合の構築問題として形式化することで、局所解釈可能モデルに依存しない解釈（LIME）のための変更された摂動サンプリング手法であるMPS-LIMEを提案する。実験の結果、Inceptionおよびランダムフォレストモデルにおいて、標準LIMEと比較して顕著に高い忠実度（R² ≈ 0.9）、より高い予測精度（MAE ↓ 80%）、および高速な実行時間（約50%の短縮）を達成した。

ABSTRACT

Explainability is a gateway between Artificial Intelligence and society as the current popular deep learning models are generally weak in explaining the reasoning process and prediction results. Local Interpretable Model-agnostic Explanation (LIME) is a recent technique that explains the predictions of any classifier faithfully by learning an interpretable model locally around the prediction. However, the sampling operation in the standard implementation of LIME is defective. Perturbed samples are generated from a uniform distribution, ignoring the complicated correlation between features. This paper proposes a novel Modified Perturbed Sampling operation for LIME (MPS-LIME), which is formalized as the clique set construction problem. In image classification, MPS-LIME converts the superpixel image into an undirected graph. Various experiments show that the MPS-LIME explanation of the black-box model achieves much better performance in terms of understandability, fidelity, and efficiency.

研究の動機と目的

• 標準LIMEの均一なランダムサンプリングが画像データにおける特徴相関を無視するという限界に対処すること。
• スーパーピクセル間の空間的相関を組み込むことで、局所モデル解釈の忠実度と理解可能性を向上させること。
• 無効な摂動サンプルの数を減らすことで、計算効率を向上させること。
• スーパーピクセルグラフ上で摂動サンプリングをクリーク集合の構築問題として形式化し、より良い局所モデル適合を実現すること。
• Inceptionおよびランダムフォレスト分類器を含む、複数のブラックボックスモデルにおいて、本手法の優位性を実証すること。

提案手法

• 入力画像をスーパーピクセル表現に変換して、解釈可能で低次元の特徴空間を生成すること。
• 頂点をスーパーピクセル、空間的に隣接するスーパーピクセル間に辺を結ぶ無向グラフを構築すること。
• 摂動サンプリング操作を、グラフ内の最大クリーク（相互に接続された頂点の部分集合）を見つける問題として定式化すること。
• 個々のスーパーピクセルをランダムに選択するのではなく、全体のクリークを活性化することで摂動サンプルを生成すること。
• クリークベースの摂動に基づいて局所線形モデルをフィットさせ、ブラックボックスモデルの予測を説明すること。
• 得られた説明モデルを用いて、局所スラッグモデルからの係数に基づき特徴重要度の重みを割り当てること。

実験結果

リサーチクエスチョン

• RQ1 画像データにおける特徴相関をモデル化することで、LIMEベースの解釈の忠実度が向上するか？
• RQ2 均一なランダムサンプリングと比較して、クリークベースのサンプリングは不自然な摂動サンプルの数を減らすか？
• RQ3 提案手法は、精度を損なうことなく局所解釈の効率性を向上させられるか？
• RQ4 実世界の画像分類器において、MPS-LIMEは標準LIMEと比較して予測忠実度と実行時間の両面で優れているか？
• RQ5 クリークベースのサンプリングアプローチは、他のモデルに依存しない解釈手法にも一般化可能か？

主な発見

• MPS-LIMEはInceptionモデルで平均R²スコア0.9を達成し、LIMEの平均0.65と比較して、ブラックボックス予測の説明における忠実度が顕著に優れていることを示した。
• MPS-LIMEの平均絶対誤差（MAE）はLIMEと比較して約80%低減され、MAE値は平均で0.35から0.015に低下した。
• MPS-LIMEの実行時間はLIMEの約50%に短縮され、6枚のテスト画像における平均実行時間は120ms（LIMEは230ms）であった。
• すべてのテストケースにおいて、MPS-LIMEはより正確で安定した確率予測を生成し、予測確率が真のInceptionモデル出力に近づいた。
• MPS-LIMEによる視覚的説明は、より意味的に整合性があり関連性の高いスーパーピクセル領域を強調しており、解釈可能性が向上した。
• カメレオン、バタフライ、城など多様な画像クラスにおいて、本手法は一貫した性能向上を示し、強度を確認した。