[논문 리뷰] Explainable Deep Few-shot Anomaly Detection with Deviation Networks

Guansong Pang, Choubo Ding외 2명|arXiv (Cornell University)|2021. 08. 01.

Anomaly Detection Techniques and Applications참고 문헌 68인용 수 43

한 줄 요약

DevNet은 Gaussian prior와 MIL-based deviation loss에 의해 가이드되는 이상 점수를 직접 학습하는 편차 기반의 end-to-end 딥 프레임워크로, few-shot 이상 탐지를 가능하게 하며 open-set 탐지 및 설명 가능성을 제공한다.

ABSTRACT

Existing anomaly detection paradigms overwhelmingly focus on training detection models using exclusively normal data or unlabeled data (mostly normal samples). One notorious issue with these approaches is that they are weak in discriminating anomalies from normal samples due to the lack of the knowledge about the anomalies. Here, we study the problem of few-shot anomaly detection, in which we aim at using a few labeled anomaly examples to train sample-efficient discriminative detection models. To address this problem, we introduce a novel weakly-supervised anomaly detection framework to train detection models without assuming the examples illustrating all possible classes of anomaly. Specifically, the proposed approach learns discriminative normality (regularity) by leveraging the labeled anomalies and a prior probability to enforce expressive representations of normality and unbounded deviated representations of abnormality. This is achieved by an end-to-end optimization of anomaly scores with a neural deviation learning, in which the anomaly scores of normal samples are imposed to approximate scalar scores drawn from the prior while that of anomaly examples is enforced to have statistically significant deviations from these sampled scores in the upper tail. Furthermore, our model is optimized to learn fine-grained normality and abnormality by top-K multiple-instance-learning-based feature subspace deviation learning, allowing more generalized representations. Comprehensive experiments on nine real-world image anomaly detection benchmarks show that our model is substantially more sample-efficient and robust, and performs significantly better than state-of-the-art competing methods in both closed-set and open-set settings. Our model can also offer explanation capability as a result of its prior-driven anomaly score learning. Code and datasets are available at: https://git.io/DevNet.

연구 동기 및 목표

• 레이블된 이상 샘플이 매우 적은 상황에서의 few-shot 이상 탐지를 동기화하고 해결한다.
• 보이지 않는 이상을 다루면서 정상성의 판별 가능하고 강건한 모델을 학습한다.
• 간접 피처 학습이 아니라 엔드-투-엔드 이상 점수 학습을 제공한다.
• 학습된 점수와 연결된 gradient 기반 로컬라이제이션을 통해 이상 설명을 가능하게 한다.

제안 방법

• DevNet은 입력을 스칼라 이상 점수로 매핑하는 이상 점수화 함수를 직접 학습한다.
• Gaussian prior 기반의 기준 점수(reference score)를 사용하여 이상 점수의 엔드-투-엔드 학습을 유도한다.
• MIL 기반의 top-K 편차 손실은 이상에 대해 이상 점수가 우측 꼬리에서 사전에 벗어나도록 하고 정상 점수는 사전에 가깝게 유지되도록 한다.
• 엔드-투-엔드 네트워크는 미세한 특징 학습기와 간단한 선형 이상 점수 헤드를 결합한다.
• 이상 설명은 기여 피처를 국소화하기 위해 그래디언트 역전파를 통해 달성된다.

실험 결과

연구 질문

• RQ1 적은 수의 라벨링된 이상이 보이는 이상 클래스와 보이지 않는 이상 클래스 모두에 대해 엔드-투-엔드 이상 점수 학습을 이끌 수 있는가?
• RQ2 Gaussian prior와 MIL-based deviation loss를 활용하는 것이 FSAD에서 샘플 효율성 및 일반화 성능을 향상시키는가?
• RQ3 학습된 점수에 연결된 충실한 이상 국소화/설명을 모델이 제공할 수 있는가?
• RQ4 정상 데이터의 이상 오염에 견고하고 서로 다른 백본과 데이터셋에서도 효과적인가?

주요 결과

• DevNet은 실제 이미지 이상 벤치마크 9종에서 최첨단 방법들에 비해 샘플 효율성과 강건성을 향상시켰다.
• 이 프레임워크는 open-set 설정에서 보지 못한 이상 클래스에 대한 일반화 성능이 더 좋다.
• 이상 점수는 prior-driven 학습으로 해석 가능하며 gradient 기반 설명을 통해 입력 영역으로 국소화될 수 있다.
• Top-K MIL 편차 학습은 가장 정보량이 많은 이상 패치에 집중하여 학습을 향상시키고 오탐지를 감소시킨다.
• DevNet은 감지된 이상에 대한 설명을 지원하는 정확한 이상 위치화를 제공한다.