[論文レビュー] Explaining Deep Convolutional Neural Networks for Image Classification by Evolving Local Interpretable Model-agnostic Explanations

Bin Wang, Wenbin Pei+2 more|arXiv (Cornell University)|Nov 28, 2022

Explainable Artificial Intelligence (XAI)被引用数 4

ひとこと要約

本稿では、画像分類における深層畳み込みニューラルネットワーク（DCNN）の局所的で解釈可能かつモデルに依存しない説明を、遺伝的アルゴリズム（GA）を用いて進化させるE-LIMEを提案する。LIMEの計算コストの高いサンプリングを置き換え、スーパーピクセルの部分集合を進化させるフィットネス駆動型GAを採用することで、E-LIMEは1分未塔の高速推論を達成し、ImageNet画像上でのResNet、DenseNet、MobileNetにおいて予測の信頼性を最大47.59%向上させる。

ABSTRACT

Deep convolutional neural networks have proven their effectiveness, and have been acknowledged as the most dominant method for image classification. However, a severe drawback of deep convolutional neural networks is poor explainability. Unfortunately, in many real-world applications, users need to understand the rationale behind the predictions of deep convolutional neural networks when determining whether they should trust the predictions or not. To resolve this issue, a novel genetic algorithm-based method is proposed for the first time to automatically evolve local explanations that can assist users to assess the rationality of the predictions. Furthermore, the proposed method is model-agnostic, i.e., it can be utilised to explain any deep convolutional neural network models. In the experiments, ResNet is used as an example model to be explained, and the ImageNet dataset is selected as the benchmark dataset. DenseNet and MobileNet are further explained to demonstrate the model-agnostic characteristic of the proposed method. The evolved local explanations on four images, randomly selected from ImageNet, are presented, which show that the evolved local explanations are straightforward to be recognised by humans. Moreover, the evolved explanations can explain the predictions of deep convolutional neural networks on all four images very well by successfully capturing meaningful interpretable features of the sample images. Further analysis based on the 30 runs of the experiments exhibits that the evolved local explanations can also improve the probabilities/confidences of the deep convolutional neural network models in making the predictions. The proposed method can obtain local explanations within one minute, which is more than ten times faster than LIME (the state-of-the-art method).

研究の動機と目的

• 医療診断や自動運転などの重要な応用分野における深層畳み込みニューラルネットワーク（CNN）の説明不能性を是正すること。
• 最先端の局所的説明手法であるLIMEの高い計算コストと固定されたスーパーピクセル要件を克服すること。
• 任意の事前学習済みCNNに適用可能な、モデルに依存せず、効率的かつ人間が解釈可能な説明手法を開発すること。
• 正しい予測の確率出力を高めるような局所的説明を進化させることで、予測の信頼性を向上させること。
• ResNet、DenseNet、MobileNetといった複数のCNNアーキテクチャ上で、ImageNet上で本手法の有効性と効率性を実証すること。

提案手法

• 入力画像からのスーパーピクセルを、候補となる説明を表すバイナリーベクトルに符号化する。
• 遺伝的アルゴリズム（GA）を用いてこれらのバイナリーベクトルを進化させ、各個体がスーパーピクセルの部分集合を表すようにする。
• 深層CNNが進化したスーパーピクセル部分集合上で、ターゲットクラスの予測確率を最大化するフィットネス関数を定義する。
• 選択、交差、変異の演算子を適用し、世代を重ねて説明の集団を段階的に改善する。
• 直接的に説明空間を最適化することで、摂動サンプリングの必要性を排除し、計算コストを低減する。
• モデルに依存しない性質を保つために、内部アーキテクチャに依存せず、モデルの予測出力のみに依存する。

実験結果

リサーチクエスチョン

• RQ1 サンプリングに基づく手法（例：LIME）に依存せずに、遺伝的アルゴリズムが深層CNNの局所的で人間が解釈可能な説明を効果的に進化させられるか。
• RQ2 提案手法（E-LIME）は、LIMEと比較して計算コストを低減しながら、説明の質を維持または向上させられるか。
• RQ3 E-LIMEは、進化した説明を通じて、画像分類タスクにおける深層CNNの信頼性（予測確率）を向上させられるか。
• RQ4 本手法は真にモデルに依存せず、ResNet、DenseNet、MobileNetなどの異なるCNNアーキテクチャに一般化可能か。
• RQ5 複数回の実行における進化した説明は一貫性があり、安定的か。また、意味的で解釈可能な特徴を捉えているか。

主な発見

• E-LIMEは1枚あたり1分未塔の時間で局所的説明を進化させ、LIMEの平均10分を上回る10倍以上の高速化を達成した。
• ResNetでは、サモエドの画像で最大13.44%、タイガーシャークの画像で2.86%の予測信頼性向上を達成した。
• DenseNetでは、タイガーシャークの画像で17.76%、サモエドの画像で3.36%の信頼性向上を30回の実行で達成した。
• MobileNetでは、サモエドの画像で47.59%、タイガーシャークの画像で4.23%、ハゲワッペンの画像で4.10%の信頼性向上を達成した。
• 30回の実行における予測確率の標準偏差は常に低く、進化した説明の高い安定性と信頼性を示した。
• 本手法は強力なモデルに依存しない性質を示し、ResNet、DenseNet、MobileNetの各アーキテクチャで類似した性能と速度で予測を説明できた。