[論文レビュー] A Novel Explainable Artificial Intelligence Model in Image Classification problem

Quoc Hung Cao, Truong Thanh Hung Nguyen+2 more|arXiv (Cornell University)|Jul 9, 2023

Explainable Artificial Intelligence (XAI)被引用数 4

ひとこと要約

本稿では、LIMEの人的に整合する局所化とCAMの高速性を組み合わせ、画像セグメンテーションを用いて顕著な領域を特定することで、モデルアーキテクチャを変更せずに、正確で高速（1枚あたり約2秒）、安定した説明が得られる、画像分類向けの新規局所後処理型XAI手法SeCAMを提案する。従来のLIMEやCAMに比べ、速度と解釈可能性の両面で優れている。

ABSTRACT

In recent years, artificial intelligence is increasingly being applied widely in many different fields and has a profound and direct impact on human life. Following this is the need to understand the principles of the model making predictions. Since most of the current high-precision models are black boxes, neither the AI scientist nor the end-user deeply understands what's going on inside these models. Therefore, many algorithms are studied for the purpose of explaining AI models, especially those in the problem of image classification in the field of computer vision such as LIME, CAM, GradCAM. However, these algorithms still have limitations such as LIME's long execution time and CAM's confusing interpretation of concreteness and clarity. Therefore, in this paper, we propose a new method called Segmentation - Class Activation Mapping (SeCAM) that combines the advantages of these algorithms above, while at the same time overcoming their disadvantages. We tested this algorithm with various models, including ResNet50, Inception-v3, VGG16 from ImageNet Large Scale Visual Recognition Challenge (ILSVRC) data set. Outstanding results when the algorithm has met all the requirements for a specific explanation in a remarkably concise time.

研究の動機と目的

• 画像分類における既存のXAI手法に見られる、高速で正確かつ安定した説明の欠如に対処すること。
• LIMEの高い計算コストとCAMの広範かつ不正確な活性化マップの課題を克服すること。
• モデルに依存しない後処理型手法として、解釈可能性を保ちつつ推論時間を大幅に短縮すること。
• 人的な認識に整合する直感的なセグメンテーションベースの説明を可能にすること。
• アーキテクチャの変更なしに、さまざまなディープラーニングモデルに一般化可能なフレームワークを提供すること。

提案手法

• 入力画像を知覚的に意味のある領域に分割するため、SLICを用いたスーパーピクセルセグメンテーションを適用する。
• GradCAMに類似した勾配情報に基づき、各セグメント化領域のクラス活性化スコアを計算する。
• 特徴マップの重み付き集約を用いて、予測クラスに最も影響を与えるセグメントを同定する。
• 各セグメントの色の強度が予測への寄与度を反映するように、元の画像にヒートマップをオーバーレイする。
• アーキテクチャの変更を要しないモデルに依存しない動作を保証し、任意の事前学習済み分類器と併用可能にする。
• セグメンテーションと活性化マッピングを統合することで、人間が読み取りやすい、局所化された正確で効率的な説明を生成する。

Figure 1 : The segmented image for the input image (Figure 2a)

実験結果

リサーチクエスチョン

• RQ1 セグメンテーションベースのXAI手法は、LIMEに匹敵する解釈可能性を実現しながら、CAMと同等の推論時間の高速性を達成できるか？
• RQ2 SeCAMの説明品質は、局所化の正確性と人的な整合性の観点から、LIMEやCAMと比べてどのように異なるか？
• RQ3 セグメンテーションアルゴリズムの選択（例：SLIC対quickshift）が、モデルの説明の信頼性に顕著な影響を与えるか？
• RQ4 アーキテクチャの変更なしに、多様な画像クラスやモデルに対して、SeCAMが安定的かつ安全な説明を提供できるか？
• RQ5 SeCAMのフレームワークは、コンピュータビジョン分野における他のXAI手法の改善に、どの程度一般化可能か？

主な発見

• SeCAMは1枚あたり平均して約2秒の説明時間を達成しており、LIMEの約200秒に比べ顕著に高速である。
• 定性的な分析とユーザーサーベイの両面から確認されたように、特定の画像例ではLIMEよりもSeCAMの説明がより安定的かつ歪みが少ない。
• 人間のアノテーターが定義したボクシングボックスと密接に一致する人的に整合する説明を生成しており、CAMの過剰に広がった活性化領域を上回っている。
• SLICやquickshiftなどの異なるセグメンテーションアルゴリズムは異なるセグメンテーションを生成するが、SeCAMは一貫して正しいオブジェクト関連領域を同定しており、セグメンテーションの選択に対して頑健であることが示された。
• 定量的評価において、SeCAMはLIMEおよびCAMを上回っており、局所化の正確性が優れており、推論速度も速い。特にResNet50、Inception-v3、VGG16モデルにおいて顕著な優位性を示した。
• ユーザーサーベイの結果、SeCAMの説明はLIMEやCAMの説明よりも直感的で信頼性が高いかと認識された。

(a) Input image