[논문 리뷰] Attention Guided Anomaly Detection and Localization in Images.

Shashanka Venkataramanan, Kuan–Chuan Peng외 2명|arXiv (Cornell University)|2019. 11. 19.

Anomaly Detection Techniques and Applications참고 문헌 28인용 수 13

한 줄 요약

이 논문은 비정상 샘플이 없는 경우나 2% 이하의 비정상 데이터만 있는 경우에도 비지도 및 약한 지도 학습을 위한 지도된 주의를 갖춘 컨볼루션형 적대적 변동 자동차오디오(CAVGA)를 제안한다. 공간에 민감한 잠재 변수와 새로운 주의 손실 함수를 사용하여 정상 영역에 집중함으로써, MVTec, mSTC, LAG 데이터셋에서 기존의 최고 성능(SOTA) 방법들을 능가한다.

ABSTRACT

Anomaly localization is an important problem in computer vision which involves localizing anomalous regions within images with applications in industrial inspection, surveillance, and medical imaging. This task is challenging due to the small sample size and pixel coverage of the anomaly in real-world scenarios. Most prior works need to use anomalous training images to compute a class-specific threshold to localize anomalies. Without the need of anomalous training images, we propose Convolutional Adversarial Variational autoencoder with Guided Attention (CAVGA), which localizes the anomaly with a convolutional latent variable to preserve the spatial information. In the unsupervised setting, we propose an attention expansion loss where we encourage CAVGA to focus on all normal regions in the image. Furthermore, in the weakly-supervised setting we propose a complementary guided attention loss, where we encourage the attention map to focus on all normal regions while minimizing the attention map corresponding to anomalous regions in the image. CAVGA outperforms the state-of-the-art (SOTA) anomaly localization methods on MVTec Anomaly Detection (MVTAD), modified ShanghaiTech Campus (mSTC) and Large-scale Attention based Glaucoma (LAG) datasets in the unsupervised setting and when using only 2% anomalous images in the weakly-supervised setting. CAVGA also outperforms SOTA anomaly detection methods on the MNIST, CIFAR-10, Fashion-MNIST, MVTAD, mSTC and LAG datasets.

연구 동기 및 목표

• 제한된 비정상 샘플과 작은 비정상 영역 커버리지가 있는 이미지에서 이상 국소화 문제를 해결하기 위해.
• 비정상 훈련 이미지가 필요 없도록 비지도 및 약한 지도 학습을 통해 이상 국소화의 필요성을 제거하기 위해.
• 정확한 이상 국소화를 위해 컨볼루션형 잠재 변수를 사용하여 잠재 공간에서 공간 정보를 유지하기 위해.
• 비정상 영역에 주의를 기울이지 않고 정상 영역에 집중하도록 유도하는 주의 기반 손실 함수를 개발하기 위해.
• 다양한 벤치마크 데이터셋에서 이상 탐지 및 국소화 성능 모두에서 최고 성능을 달성하기 위해.

제안 방법

• CAVGA는 잠재 표현의 공간적 구조를 유지하기 위해 컨볼루션형 잠재 변수를 사용하여 이상의 정확한 국소화를 가능하게 한다.
• 비지도 설정에서는 주의 확장 손실이 이미지의 모든 정상 영역에 주의를 기울이도록 모델을 유도한다.
• 약한 지도 학습 설정에서는 상호 보완적인 지도된 주의 손실이 비정상 영역에 대한 주의를 최소화하고 정상 영역에 대한 주의를 최대화하도록 한다.
• 모델은 재구성 품질 향상과 잠재 공간 내 특징의 현실성 향상을 위해 적대적 훈련을 사용한다.
• 주의 맵은 재구성 오차와 주의 분포를 기반으로 이상 영역을 강조하는 이상 히트맵을 생성하는 데 사용된다.
• 재구성 손실, 적대적 손실 및 제안된 주의 기반 정규화를 사용하여 프레임워크를 엔드 투 엔드로 훈련한다.

실험 결과

연구 질문

• RQ1 자기지도 학습 접근법을 사용하여 비정상 훈련 이미지가 전혀 없이도 이상 국소화를 달성할 수 있는가?
• RQ2 지속적인 주의가 정상 영역에 집중함으로써 이상 국소화 성능 향상에 얼마나 효과적인가?
• RQ3 통합된 모델이 비지도 및 약한 지도 학습 모두에서 최고 성능을 달성할 수 있는가?
• RQ4 컨볼루션형 잠재 변수는 이상 국소화를 위한 공간 정보 유지 측면에서 완전히 연결된 잠재 공간에 비해 어떻게 비교되는가?
• RQ5 제안된 주의 손실이 기존의 재구성 기반 방법에 비해 벤치마크 데이터셋에서 얼마나 높은 성능 향상을 이룰 수 있는가?

주요 결과

• CAVGA는 MVTec 이상 탐지(MVTAD), 수정된 상하이기술대학교 캠퍼스(mSTC), 대규모 주의 기반 녹내장(LAG) 데이터셋에서 비지도 이상 국소화 성능에서 최고 성능을 달성한다.
• 훈련 세트에 2%의 비정상 이미지만 포함된 경우에도 CAVGA는 동일한 벤치마크에서 기존의 약한 지도 학습 방법들을 크게 능가한다.
• CAVGA는 MNIST, CIFAR-10, 패션-MNIST, MVTAD, mSTC, LAG 데이터셋에서 탐지 및 국소화 작업 모두에서 SOTA 이상 탐지 방법을 능가한다.
• 비지도 설정에서의 주의 확장 손실은 모델이 정상 영역에 집중하도록 효과적으로 유도하여 국소화 정확도를 향상시킨다.
• 약한 지도 학습 설정에서의 상호 보완적인 지도된 주의 손실은 비정상 영역에 대한 주의를 성공적으로 억제하여 탐지 성능을 향상시킨다.
• 컨볼루션형 잠재 변수의 사용은 표준 VAE에 비해 더 나은 공간 재구성과 더 정밀한 이상 국소화를 가능하게 한다.