[논문 리뷰] Visualization of Supervised and Self-Supervised Neural Networks via Attribution Guided Factorization

Shir Gur, Ameen Ali외 1명|arXiv (Cornell University)|2020. 12. 03.

Cell Image Analysis Techniques인용 수 5

한 줄 요약

이 논문은 기울기 기반 및 속성 기반 설명 가능성 기법을 결합하여 딥 네URAL 네트워크에서 클래스별 고해상도 시각화를 생성하는 새로운 방법인 속성 유도 분해(AGF)를 제안한다. 국소적 속성에 의해 유도되는 비음수 행렬 분해를 통해 사전 경향성(지배적 특징을 선호하는 경향)을 보정함으로써, AGF는 기울기 기반 및 속성 기반 벤치마크에서 모두 최신 기술 수준(SOTA) 성능을 달성하였으며, 자기지도 학습 모델을 포함하여도 성능을 발휘함으로써 이러한 모델들이 암묵적으로 의미 분할 표현을 학습하고 있음을 입증한다.

ABSTRACT

Neural network visualization techniques mark image locations by their relevancy to the network's classification. Existing methods are effective in highlighting the regions that affect the resulting classification the most. However, as we show, these methods are limited in their ability to identify the support for alternative classifications, an effect we name {\em the saliency bias} hypothesis. In this work, we integrate two lines of research: gradient-based methods and attribution-based methods, and develop an algorithm that provides per-class explainability. The algorithm back-projects the per pixel local influence, in a manner that is guided by the local attributions, while correcting for salient features that would otherwise bias the explanation. In an extensive battery of experiments, we demonstrate the ability of our methods to class-specific visualization, and not just the predicted label. Remarkably, the method obtains state of the art results in benchmarks that are commonly applied to gradient-based methods as well as in those that are employed mostly for evaluating attribution methods. Using a new unsupervised procedure, our method is also successful in demonstrating that self-supervised methods learn semantic information.

연구 동기 및 목표

• 기울기 기반 및 속성 기반 기법이 주로 두드러진 특징을 선호하는 사전 경향성 때문에 비상위 예측을 정확히 시각화하는 데에 한계가 있음을 해결하기 위해.
• 입력 이미지 수준에서 클래스별 고해상도 시각화를 위한 기울기 및 속성 기법을 통합하는 통합된 방법을 개발하기 위해.
• 지상 진술 레이블이 없음에도 불구하고 설명 가능성 기반으로 자기지도 학습 모델의 의미적 이해 수준을 신뢰성 있게 평가할 수 있도록 하기 위해.
• 속성 및 기울기 기법에서 발생하는 경향성(모서리 유사 또는 비구분 가능한 히트맵 생성)을 보정하여 관련 이미지 영역의 국소화 정확도를 향상시키기 위해.
• 지상 진술 레이블이 없는 자기지도 학습 모델에서 설명 가능성 평가를 위한 새로운 비지도 절차를 수립하기 위해.

제안 방법

• AGF는 깊은 층의 기울기 신호와 입력 수준의 속성 맵을 비음수 행렬 분해(NMF) 프레임워크를 사용하여 결합하여 특징 맵을 전경 및 배경 성분으로 분해한다.
• 국소적 속성에 기반한 유도 잔차 항을 도입하여 사전 경향성을 보정함으로써, 덜 두드러지지만 관련성이 있는 특징가 무시되지 않도록 보장한다.
• 새로운 속성 유도 분해 과정을 통해 입력 특징 맵과 그 기울기를 클래스별 성분으로 분할하여 클래스별 설명 가능성 가능성을 확보한다.
• 학습의 안정성과 층 및 모델 간 일관성을 유지하기 위해 파라미터가 없는 정규화 기법을 사용한다.
• 자기지도 학습 모델의 경우, 샘플과 그 이웃을 비교하는 대비 절차를 사용하여 설명 가능성 평가를 위한 가짜 레이블을 생성한다.
• 양의 속성 값에 임계값을 적용하여 분할 맵을 생성하며, 양의 값 전용 방법의 경우 평균 기반 임계값을, 이분법적 방법의 경우 양의 부분을 사용한다.

실험 결과

연구 질문

• RQ1 기울기 및 속성 기법을 통합하는 통합된 방법이 기존 접근법의 한계를 극복하고 클래스별 고해상도 시각화를 생성할 수 있는가?
• RQ2 기존 방법의 사전 경향성이 비상위 예측의 정확한 시각화를 얼마나 심각하게 방해하는가?
• RQ3 지상 진술 레이블이 없음에도 불구하고 설명 가능성 기반으로 자기지도 학습 모델의 의미적 이해 수준을 평가할 수 있는가?
• RQ4 제안된 속성 유도 분해 방법이 지도 학습 및 자기지도 학습 환경 모두에서 기준 방법 대비 국소화 정확도를 얼마나 향상시키는가?
• RQ5 지도 학습 및 자기지도 학습 모델 간 설명 가능성 성능 간 상관관계가 존재하는가, 그리고 이는 SSL 모델이 의미적으로 유의미한 표현을 학습하고 있음을 추론하는 데 사용될 수 있는가?

주요 결과

• AGF는 음성 편열 및 분할 기반 벤치마크에서 모두 최신 기술 수준(SOTA) 성능을 달성하였으며, 모든 데이터셋 및 지표에서 9개의 기준 방법보다 뛰어난 성능을 보였다.
• 정성적 및 정량적 비교를 통해 상위 및 두 번째로 높은 예측 클래스에 대해 관련 이미지 영역의 국소화 정확도가 크게 향상됨을 확인하였다.
• 자기지도 학습 평가에서 AGF는 SCAN, SeLa, RotNet 모델의 ImageNet 데이터셋에서 mAP 및 픽셀 정확도 측면에서 모든 기준 방법을 압도하여 암묵적인 의미 분할 유사 학습을 입증하였다.
• 절단 실험을 통해 유도 잔차 항을 제거하거나 Grad-CAM으로 대체할 경우 성능 저하가 발생함을 확인하여, 속성 유도 보정 메커니즘이 중요함을 입증하였다.
• 샘플과 이웃을 비교하는 비지도 절차가 합계 또는 비교 없이 사용하는 대안보다 뛰어난 성능을 보였으며, 이는 제안된 절차의 우수성을 뒷받침한다.
• 지도 학습 및 자기지도 학습 환경 간 설명 가능성 성능 간 강한 상관관계가 있음을 확인하여, SSL 모델이 의미적으로 유의미한 표현을 학습하고 있음을 시사한다.