[논문 리뷰] Explainable Deep One-Class Classification

Philipp Liznerski, Lukas Ruff외 4명|arXiv (Cornell University)|2020. 07. 03.

Anomaly Detection Techniques and Applications참고 문헌 61인용 수 94

한 줄 요약

FCDD는 완전 합성곱 신경망(Fully Convolutional Networks)과 원-클래스 목표를 결합하여 이상 열지도를 설명으로 생성하며, MVTec-AD에서 경쟁력 있는 이상 탐지 성능과 픽셀 단위 설명에서 최첨단 성과를 달성하고, 실제 이상 맵을 이용한 반지도 학습으로부터 얻은 이점을 제공합니다.

ABSTRACT

Deep one-class classification variants for anomaly detection learn a mapping that concentrates nominal samples in feature space causing anomalies to be mapped away. Because this transformation is highly non-linear, finding interpretations poses a significant challenge. In this paper we present an explainable deep one-class classification method, Fully Convolutional Data Description (FCDD), where the mapped samples are themselves also an explanation heatmap. FCDD yields competitive detection performance and provides reasonable explanations on common anomaly detection benchmarks with CIFAR-10 and ImageNet. On MVTec-AD, a recent manufacturing dataset offering ground-truth anomaly maps, FCDD sets a new state of the art in the unsupervised setting. Our method can incorporate ground-truth anomaly maps during training and using even a few of these (~5) improves performance significantly. Finally, using FCDD's explanations we demonstrate the vulnerability of deep one-class classification models to spurious image features such as image watermarks.

연구 동기 및 목표

• 안전, 보안, 의사결정 지원 맥락에서 설명가능한 딥 이상 탐지의 필요성을 고취한다.
• 출력이 해석 가능한 이상 열지도인 딥 원-클래스 분류기를 개발한다.
• 표준 벤치마크(Fashion-MNIST, CIFAR-10, ImageNet) 및 제조 데이터(MVTec-AD)에서 성능을 평가한다.
• 실제 이상 맵(ground-truth anomaly maps)이 학습을 어떻게 향상시키는지와 설명이 모델 동작을 어떻게 드러내는지 보여준다.

제안 방법

• 공간 정보를 보존하는 특징을 통해 이미지를 저해상도 이상 열지도에 매핑하기 위해 fully convolutional network(FCN)를 사용한다.
• 가상 허브손실 Variants? 하이퍼스피어 분류자 목표(HSC) 변형을 채택하여 정상 데이터를 중심으로 밀고 이상치를 그로부터 멀어지게 만들고, pseudo-Huber 손실을 사용한다.
• 이상 열지도 A(X)를 FCN 출력에 강건한 손실을 적용한 것으로 정의하고, A(X)의 L1 노름을 이상 점수로 사용한다.
• 기본 수용영역(Receptive field) 기반의 가우시안 업샘플링 방식(고정 가우시안 커널을 가진 스트라이드 전치 합성곱)을 사용해 저해상도 열지도를 전체 해상도로 업샘플링한다.
• 합성 또는 실제 이상치를 사용하는 Outlier Exposure(OE)로부터의 학습을 지원하고, 가능할 때 픽셀 수준의 이상 맵을 사용한 반지도 학습을 가능하게 한다.
• 이상 점수에 내재적으로 연결된 설명 메커니즘을 제공하여 이상에 기여하는 이미지 영역을 확인할 수 있게 한다.

실험 결과

연구 질문

• RQ1 원-클래스 심층 학습 모델이 이상 점수와 연결된 해석 가능한 공간적 이상 열지도를 생성할 수 있는가?
• RQ2 기존 방법과 비교해 Outlier Exposure 여부에 상관없이 FCDD가 표준 이상 탐지 벤치마크에서 어떻게 성능을 보이는가?
• RQ3 부분적으로도 충분한-ground-truth 이상 맵을 도입하면 반지도 학습 조건에서 탐지 및 설명 품질이 향상되는가?
• RQ4 생성된 설명이 속임 특성(Clever Hans 효과)에 대해 견고하며 이러한 취약점을 드러낼 수 있는가?
• RQ5 히트맵이 그래디언트 기반 및 재구성 기반 설명과 비교했을 때 노이즈 및 구조 측면에서 어떤 차이가 있는가?

주요 결과

• FCDD는 CIFAR-10 및 ImageNet에서 최첨단에 근접한 경쟁력 있는 이상 탐지 성능을 달성하면서 해석 가능한 열지도(설명)를 제공한다.
• MVTec-AD에서 FCDD는 비지도 학습 픽셀 단위 이상 로컬라이제이션의 새로운 최첨단을 설정하고, 실제 이상 맵을 사용할 때 반지도 설정에서 추가 이득이 있다.
• FCDD 열지도는 그래디언트 기반 또는 오토인코더 설명보다 노이즈가 적고 구조적으로 더 잘 구성되어 탐지 해석성을 향상시킨다.
• 이 방법은 심층 원-클래스 모델에서 속임 특성(Clever Hans 효과)에 대한 취약성을 드러낼 수 있어 투명한 설명의 가치를 보여준다.
• FCDD는 Outlier Exposure와 합성 이상에 대한 효과적인 사용을 지원하며, 최소한의 라벨링된 이상 데이터로도 강력한 설명을 달성한다.