[論文レビュー] Axiom-based Grad-CAM: Towards Accurate Visualization and Explanation of CNNs

Ruigang Fu, Qingyong Hu+4 more|arXiv (Cornell University)|Aug 5, 2020

Explainable Artificial Intelligence (XAI)参考文献 13被引用数 151

ひとこと要約

XGrad-CAM は二つの公理（感度と保存）を導入し、クラス識別CNNの視覚化を導く。Grad-CAM に対する理論的根拠に基づく改善を提供しつつ、効率的で任意の CNN と互換性を保つ。

ABSTRACT

To have a better understanding and usage of Convolution Neural Networks (CNNs), the visualization and interpretation of CNNs has attracted increasing attention in recent years. In particular, several Class Activation Mapping (CAM) methods have been proposed to discover the connection between CNN's decision and image regions. In spite of the reasonable visualization, lack of clear and sufficient theoretical support is the main limitation of these methods. In this paper, we introduce two axioms -- Conservation and Sensitivity -- to the visualization paradigm of the CAM methods. Meanwhile, a dedicated Axiom-based Grad-CAM (XGrad-CAM) is proposed to satisfy these axioms as much as possible. Experiments demonstrate that XGrad-CAM is an enhanced version of Grad-CAM in terms of conservation and sensitivity. It is able to achieve better visualization performance than Grad-CAM, while also be class-discriminative and easy-to-implement compared with Grad-CAM++ and Ablation-CAM. The code is available at https://github.com/Fu0511/XGrad-CAM.

研究の動機と目的

• CNN の視覚化における解釈性のギャップを動機づけ、CAM 手法を導く二つの公理（感度と保存）を確立する。
• これらの公理をできるだけ満たす線形 CAM 形式を導出する。
• XGrad-CAM（および Guided XGrad-CAM）を、任意の CNN に対する理論的に根拠のある、クラス識別性を備えた視覚化ツールとして提案する。

提案手法

• ターゲット層の特徴マップの線形結合として CAM を定式化し、重みを w_c^k とする。
• 感度と保存を課す最適化目的式を解くことにより重みを定義する（Eq. 4）。
• XGrad-CAM を得るための近似的な閉形式解 α_c^k（Eq. 7）を導出し（Eq. 8）、近似する。
• XGrad-CAM が CAM を一般化し、GAP-CNN では CAM に縮退することを証明する（附属書）。
• 任意性として、Guided Backprop と組み合わせて細部を強調する Guided XGrad-CAM を得ることも可能。

実験結果

リサーチクエスチョン

• RQ1 XGrad-CAM は提案された公理である感度と保存を、既存の CAM 手法よりもより効果的に満たしているか。
• RQ2 XGrad-CAM は一般的な CNN アーキテクチャにおいてクラス識別性と効率性を満たしているか。
• RQ3 XGrad-CAM の局在化（摂動）分析は Grad-CAM、Grad-CAM++、Ablation-CAM と比較してどうか。
• RQ4 視覚化品質に対するターゲット層の選択がアーキテクチャ間でどのような影響を与えるか。

主な発見

• XGrad-CAM は ILSVRC-12 の検証セットにおいて、Grad-CAM および Grad-CAM++ より公理（感度と保存）への適合度が高い。
• クラス識別性のテストでは、Grad-CAM、Ablation-CAM、XGrad-CAM は同様の性能を示し、Grad-CAM++ はより劣る。
• 摂動分析では、XGrad-CAM は Grad-CAM より高い信頼度の低下を示し、Ablation-CAM は計算時間が長い。Grad-CAM++ は raw 性能が高い可能性があるがクラス識別性は低い。
• XGrad-CAM は Ablation-CAM より強力な局在化を提供し、計算効率も高い（Ablation-CAM は約 40 倍遅い）。
• Guided XGrad-CAM は XGrad-CAM と Guided Backprop を組み合わせることで、より詳細な情報を提供する。