[논문 리뷰] IS-CAM: Integrated Score-CAM for axiomatic-based explanations

Rakshit Naidu, Ankita Ghosh외 3명|arXiv (Cornell University)|2020. 10. 06.

Explainable Artificial Intelligence (XAI)참고 문헌 12인용 수 31

한 줄 요약

IS-CAM은 Score-CAM 파이프라인 내에 공리적 속성(attribution) 개념을 통합하여 모델 전반에서 더 선명하고 더 정확한 attribution 맵을 생성하며, ILSVRC 2012 검증 이미지에서 평가되었습니다.

ABSTRACT

Convolutional Neural Networks have been known as black-box models as humans cannot interpret their inner functionalities. With an attempt to make CNNs more interpretable and trustworthy, we propose IS-CAM (Integrated Score-CAM), where we introduce the integration operation within the Score-CAM pipeline to achieve visually sharper attribution maps quantitatively. Our method is evaluated on 2000 randomly selected images from the ILSVRC 2012 Validation dataset, which proves the versatility of IS-CAM to account for different models and methods.

연구 동기 및 목표

• 민감한 응용 분야에서 CNN의 설명가능한 AI를 촉진한다.
• 그라디언트-프리 속성 방법으로 더 선명한 로컬라이제이션을 갖는 속성 방법을 개발한다.
• Score-CAM 프레임워크 내에 공리적 속성 개념을 통합한다.
• ImageNet 검증 데이터에서 충실도와 로컬라이제이션을 정량적으로 평가한다.
• 여러 CNN 아키텍처에서 다재다능함을 시연한다.

제안 방법

• 입력 마스크의 여러 구간에 걸친 평균 점수를 계산하기 위해 Score-CAM 파이프라인 내에 통합 연산을 도입한다.
• [0,1]의 구간 수를 N으로 정의하고 구간 간의 정규화된 마스크에서 얻은 점수를 평균화하여 통합 시야 맵을 계산한다( M0=0 ).
• 객체 영역에 초점을 맞추기 위해 정규화 함수 s(A) = (A - min(A)) / (max(A) - min(A))를 사용한다.
• 평균 통합 점수와 업샘플링된 활성 맵의 선형 결합으로 시야 맵을 생성하고, Score-CAM과 같이 ReLU를 적용한다.
• 입력 마스크에 대한 적분을 통해 공리적 속성 원리에 기반을 두고 더 선명한 속성 맵을 얻는다.
• ImageNet 검증 이미지에서 Grad-CAM, Grad-CAM++, Smooth Grad-CAM++, Score-CAM 및 SS-CAM과 비교한다.

실험 결과

연구 질문

• RQ1 Score-CAM 내에서 공리적 속성 접근법을 통합하면 더 선명하고 더 충실한 속성 맵을 얻을 수 있는가?
• RQ2 IS-CAM이 ImageNet 데이터의 여러 아키텍처에서 충실도와 로컬라이제이션 측면에서 어떻게 성능을 보이는가?
• RQ3 통합 구간 매개변수 N이 질적 시각적 결과나 정량적 지표에 유의하게 영향을 미치는가?
• RQ4 경계 상자 로컬라이제이션 과제에서 IS-CAM이 기존 CAM 기반 방법들과 어떻게 비교되는가?

주요 결과

• IS-CAM은 시각적 속성 품질에서 경쟁력을 보이고 여러 CAM 기준선에 비해 정량적 충실도를 향상시킨다.
• VGG-16으로 2000개 ImageNet 이미지에 대해 평균 하락 및 신뢰도 증가(Average Drop and Increase in Confidence) 평가에서 IS-CAM은 Score-CAM 및 SS-CAM에 비해 강한 성능을 보인다.
• IS-CAM은 삽입/삭제 분석에서 기준 CAM 방법들에 비해 우수한 AUC 점수를 얻는다.
• 로컬라이제이션 평가(Energy-based pointing game)에서 IS-CAM이 VGG-16, ResNet-18, SqueezeNet 변형들에서 강한 비율을 달성했고, 나열된 방법 중 VGG-16에서 가장 높은 값을 보였다.
• 전반적으로 IS-CAM은 여러 아키텍처에서 신뢰할 수 있는 saliency와 로컬라이제이션 사이의 균형을 이룬다.