[논문 리뷰] Layer-wise Relevance Propagation for Neural Networks with Local Renormalization Layers

Alexander Binder, Grégoire Montavon외 3명|arXiv (Cornell University)|2016. 04. 04.

Explainable Artificial Intelligence (XAI)참고 문헌 1인용 수 25

한 줄 요약

이 논문은 1차 테일러 전개를 사용하여 컨volution 신경망 내 국소 정규화 레이어를 다룰 수 있도록 레이어별 중요도 전파(LRP)를 확장한다. 이로 인해 정확한 픽셀 수준의 중요도 기여도 할당이 가능해진다. 제안된 방법은 CIFAR-10, ImageNet, MIT Places에서 히트맵 품질을 크게 향상시키며, 기준 LRP 대비 AUC 점수를 최대 35.84점 향상시킨다.

ABSTRACT

Layer-wise relevance propagation is a framework which allows to decompose the prediction of a deep neural network computed over a sample, e.g. an image, down to relevance scores for the single input dimensions of the sample such as subpixels of an image. While this approach can be applied directly to generalized linear mappings, product type non-linearities are not covered. This paper proposes an approach to extend layer-wise relevance propagation to neural networks with local renormalization layers, which is a very common product-type non-linearity in convolutional neural networks. We evaluate the proposed method for local renormalization layers on the CIFAR-10, Imagenet and MIT Places datasets.

연구 동기 및 목표

• 표준 LRP가 컨volution 신경망 내 곱형 비선형성(예: 국소 정규화 레이어)을 다루는 데에 한계가 있다는 문제를 해결하기 위해.
• 비선형적이고 덧셈이 아닌 활성화 메커니즘을 가진 심층 신경망에서 신뢰할 수 있는 픽셀 수준의 중요도 기여도 할당을 가능하게 하기 위해.
• 실세계 이미지 분류 데이터셋에서 테일러 기반 중요도 전파의 효과성을 평가하기 위해.
• 항등 정규화 기반의 표준 LRP와 비교하여, 테일러 기반 LRP의 성능을 평가하기 위해.

제안 방법

• 국소 정규화 레이어의 활성화 함수에 대한 1차 테일러 전개를 제안하여 중요도 재분배 규칙을 유도한다.
• 비선형 뉴런을 위한 표준 선형 근사 대신 局부 테일러 기반 근사를 사용하여 LRP 프레임워크를 적응시킨다.
• 테일러 전개를 통해 상위 레이어 뉴런에서 하위 레이어 뉴런으로의 중요도 메시지 $ R^{(l,l+1)}_{i\rightarrow j} $ 를 계산하여 중요도 보존을 보장한다.
• 표준 LRP가 실패하는, 곱형 비선형성(예: CNN 내 공간 정규화)을 가진 레이어에 이 방법을 적용한다.
• $ \epsilon $-규칙과 $ \beta $-규칙을 사용하며, 정규화 레이어에서 항등 매핑 대신 테일러 전개를 사용한다.
• 일관성과 해석 가능성을 유지하는, 미분 가능하고 국소적인 근사 전략을 도입한다.

실험 결과

연구 질문

• RQ1 국소 정규화 레이어처럼 덧셈이 아니며 표준 LRP가 다루지 못하는 비선형성에 대해 1차 테일러 전개를 사용하여 LRP를 확장할 수 있는가?
• RQ2 기준 LRP와 항등 정규화를 사용한 표준 LRP와 비교할 때, 테일러 기반 LRP의 히트맵 품질은 벤치마크 데이터셋에서 어떻게 다른가?
• RQ3 테일러 전개를 사용할 때, 어떤 초모수($ \epsilon $, $ \beta $) 조합이 가장 대표적이고 선택적인 히트맵을 생성하는가?
• RQ4 정규화 레이어에서 테일러 전개를 사용할 경우, LRP의 전반적인 일관성과 해석 가능성은 손상되는가?

주요 결과

• 국소 정규화 레이어에 테일러 전개를 적용함으로써, ImageNet에서 기준 정규화 방식 대비 최대 35.84점, MIT Places에서 최대 33.13점의 AUC 점수 향상을 달성하였다.
• 가장 우수한 성능을 보인 설정인 $ \epsilon = 1 $ 인 테일러 기반 LRP는 시각화 결과(그림 3)에 의해 가장 높은 픽셀 선택성과 가장 낮은 노이즈를 보였다.
• $ \epsilon = 1 $ 및 $ \epsilon = 0.01 $ 인 경우, 테일러 기반 LRP는 항상 항등 정규화 기반 LRP를 능가했으며, AUC 향상 폭은 각각 -35.84점과 -33.13점이었다.
• $ \beta = 1 $ 및 $ \beta = 0 $ 설정에서는 부드러운 히트맵을 생성했지만, 테일러 기반 LRP는 모든 초모수 설정에서 뛰어난 성능을 유지했다.
• 모든 데이터셋에서 성능 순서는 일관되게 $ \epsilon = 1 $, $ \epsilon = 0.01 $, $ \epsilon = 100 $, $ \beta = 1 $, $ \beta = 0 $ 로 나타났으며, 상위 설정에서 테일러 기반 LRP가 항상 항등 정규화 기반 LRP를 앞섰다.
• 이 방법은 강건하고 일반화 가능하며, CIFAR-10, ImageNet, MIT Places와 같은 다양한 데이터셋에서 일관된 향상을 보였다.