[논문 리뷰] Axiom-based Grad-CAM: Towards Accurate Visualization and Explanation of CNNs

Ruigang Fu, Qingyong Hu외 4명|arXiv (Cornell University)|2020. 08. 05.

Explainable Artificial Intelligence (XAI)참고 문헌 13인용 수 151

한 줄 요약

XGrad-CAM은 두 가지 공리(Sensitivity와 Conservation)를 도입하여 클래스 구분 CNN 시각화를 안내하고, Grad-CAM에 비해 이론적으로 근거가 있는 향상을 제공하면서도 임의의 CNN과의 효율적 호환성을 유지한다.

ABSTRACT

To have a better understanding and usage of Convolution Neural Networks (CNNs), the visualization and interpretation of CNNs has attracted increasing attention in recent years. In particular, several Class Activation Mapping (CAM) methods have been proposed to discover the connection between CNN's decision and image regions. In spite of the reasonable visualization, lack of clear and sufficient theoretical support is the main limitation of these methods. In this paper, we introduce two axioms -- Conservation and Sensitivity -- to the visualization paradigm of the CAM methods. Meanwhile, a dedicated Axiom-based Grad-CAM (XGrad-CAM) is proposed to satisfy these axioms as much as possible. Experiments demonstrate that XGrad-CAM is an enhanced version of Grad-CAM in terms of conservation and sensitivity. It is able to achieve better visualization performance than Grad-CAM, while also be class-discriminative and easy-to-implement compared with Grad-CAM++ and Ablation-CAM. The code is available at https://github.com/Fu0511/XGrad-CAM.

연구 동기 및 목표

• CNN 시각화에서 해석 가능성의 격차를 동기 부여하고 CAM 방법을 안내하기 위해 두 가지 공리(Sensitivity와 Conservation)를 확립한다.
• 이 공리를 최대한 만족하는 선형 CAM 형태를 도출한다.
• 임의의 CNN에 대해 이론적으로 근거 있는, 클래스 구분적 시각화 도구로서 XGrad-CAM(및 Guided XGrad-CAM)을 제안한다.

제안 방법

• CAM을 대상-layer 특징 맵의 선형 결합으로 w_c^k 가중치를 가지게 형식화한다.
• Sensitivity와 Conservation을 강제하는 최적화 목적(Eq. 4)을 정의하여 가중치를 정의한다.
• XGrad-CAM(Eq. 8)을 얻기 위한 근사 닫힌 형태 해 alpha_c^k(Eq. 7)을 도출한다.
• Appendix에서 XGrad-CAM이 CAM을 일반화하고 GAP-CNN에 대해 CAM으로 축소되는 것을 보인다.
• 선택적: Guided Backprop과 결합하여 더미세한 세부를 얻는 Guided XGrad-CAM을 제안한다.

실험 결과

연구 질문

• RQ1 XGrad-CAM이 제안된 공리인 Sensitivity와 Conservation를 기존의 CAM 방법보다 더 잘 만족시키는가?
• RQ2 XGrad-CAM이 일반적인 CNN 아키텍처에서 클래스 구분적이고 효율적인가?
• RQ3 Perturbation 분석에서 XGrad-CAM의 localization은 Grad-CAM, Grad-CAM++, Ablation-CAM과 비교하여 어떤 성능을 보이나?
• RQ4 아키텍처 간 시각화 품질에 대해 선택된 대상 레이어의 영향은 어떠한가?

주요 결과

• XGrad-CAM은 ILSVRC-12 검증 세트에서 두 공리(Sensitivity와 Conservation)에 대한 준수도가 Grad-CAM 및 Grad-CAM++보다 더 좋다.
• 클래스 구분 테스트에서 Grad-CAM, Ablation-CAM, XGrad-CAM은 비슷한 성능을 보인 반면 Grad-CAM++는 더 나쁜 성능을 보인다.
• Perturbation 분석에서 XGrad-CAM은 Grad-CAM보다 더 큰 신뢰도 감소를 보이며, Ablation-CAM은 더 오래 걸리며; Grad-CAM++은 원시 성능은 더 높을 수 있으나 클래스 구분력이 낮다.
• XGrad-CAM은 더 강한 Localization을 제공하고 Ablation-CAM보다 더 효율적이다(약 40배 느림).
• Guided XGrad-CAM은 XGrad-CAM을 Guided Backprop와 결합하여 추가적인 세부 정보를 제공한다.