[논문 리뷰] Grad-CAM: Why did you say that?

Ramprasaath R. Selvaraju, Abhishek Das외 4명|arXiv (Cornell University)|2016. 11. 22.

Multimodal Machine Learning Applications참고 문헌 11인용 수 325

한 줄 요약

Grad-CAM은 CNN에 대한 클래스 구분 가능한 로컬라이제이션 방법으로, CNN에 대한 클래스 구분 가능한 시각적 설명을 생성하며, Guided Backpropagation과 결합하여 고해상도 Guided Grad-CAM 설명을 형성한다.

ABSTRACT

We propose a technique for making Convolutional Neural Network (CNN)-based models more transparent by visualizing input regions that are 'important' for predictions -- or visual explanations. Our approach, called Gradient-weighted Class Activation Mapping (Grad-CAM), uses class-specific gradient information to localize important regions. These localizations are combined with existing pixel-space visualizations to create a novel high-resolution and class-discriminative visualization called Guided Grad-CAM. These methods help better understand CNN-based models, including image captioning and visual question answering (VQA) models. We evaluate our visual explanations by measuring their ability to discriminate between classes, to inspire trust in humans, and their correlation with occlusion maps. Grad-CAM provides a new way to understand CNN-based models. We have released code, an online demo hosted on CloudCV, and a full version of this extended abstract.

연구 동기 및 목표

• 투명한 CNN 설명의 필요성은 클래스 구분 가능하고 고해상도인 두 가지 특성을 모두 충족해야 한다는 점을 제시한다.
• 클래스 특정 그라디언트 정보를 사용하여 아키텍처 변경 없이 로컬라이제이션 맵을 얻기 위해 Grad-CAM을 소개한다.
• Grad-CAM을 Guided Backpropagation과 결합하여 고해상도이며 클래스 구분 가능한 시각화를 제공하는 Guided Grad-CAM을 만든다.
• 이미지 자막 생성 및 시각적 질문 응답(VQA) 모델에의 적용 가능성을 시연한다.
• 설명을 사람 연구 및 충실도 분석으로 평가하고 코드/데모를 배포한다.

제안 방법

• 타깃 클래스 점수의 컨볼루션 피처 맵에 대한 그라디언트를 계산하고, 이 그라디언트를 전역 평균풀링해 채널별 가중치를 얻은 뒤, 피처 맵의 ReLU 가중합을 형성하는 Grad-CAM을 정의한다.
• 아키텍처 제약을 피하고 그라디언트를 사용함으로써 임의의 CNN에 CAM을 일반화한다(그라디언트 기반 로컬라이제이션).
• Grad-CAM 맵과 Guided Backpropagation 시각화를 요소별로 곱하여 고해상도이고 클래스에 집중된 설명을 얻는 Guided Grad-CAM을 만든다.
• Grad-CAM을 이미지 자막 생성 및 VQA 모델에 적용하여 광범위한 태스크에 걸친 적용 가능성을 시연한다.
• 인간 평가를 통해 구별성 및 신뢰를 평가하고 OC(가려짐) 기반의 충실도 측정과 비교한다.

실험 결과

연구 질문

• RQ1 Grad-CAM이 재훈련이나 아키텍처 변경 없이 클래스 구분 가능한 로컬라이제이션 맵을 생성할 수 있는가?
• RQ2 Guided Grad-CAM이 기존 방법보다 해상도가 높은 설명을 제공하여 해석 가능성과 신뢰를 향상시키는가?
• RQ3 Grad-CAM 설명이 모델의 동작에 충실하며(가려짐과의 상관관계로 입증) 대상 클래스에 대해 구별적으로 작용하는가?
• RQ4 이 설명들이 이미지 자막 생성 및 시각적 질문 응답(VQA) 같은 더 높은 수준의 태스크로 얼마나 잘 일반화되는가?

주요 결과

• Grad-CAM 로컬라이제이션은 클래스 구분 가능하며 재학습 없이 계산될 수 있다.
• Guided Grad-CAM은 고해상도 디테일과 클래스 초점을 결합하여 인간의 구별 가능성 및 모델 신뢰 인식도를 향상시킨다.
• 인간 평가에서 Guided Grad-CAM은 클래스 인식(True)에서 Guided Backpropagation보다 더 높은 정확도(44.44 vs 61.23%)와 인식된 신뢰도(+1.00 vs +1.27)를 보였고, 가려짐 기반 충실도와의 상관관계도 더 높게 나타났다(0.168 vs 0.261).
• Guided Grad-CAM은 모델 실패를 진단하는 데 도움을 주며 ImageNet 및 VQA 예측에 대한 직관적인 설명을 제공한다.
• 이 방법은 이미지 자막 생성 및 VQA 파이프라인에서 검증되어 CNN 기반 태스크 전반에 걸친 광범위한 적용 가능성을 보여준다.