[논문 리뷰] Rethinking Assumptions in Deep Anomaly Detection

Lukas Ruff, Robert A. Vandermeulen외 3명|arXiv (Cornell University)|2020. 05. 30.

Anomaly Detection Techniques and Applications참고 문헌 77인용 수 14

한 줄 요약

이 논문은 영상에서의 딥 이상 탐지(DAD)가 반드시 비지도 학습이어야 한다는 전통적 가정을 도전한다. 간단한 지도 학습 분류기(정상 데이터로 학습하고 이상 데이터로 64장의 랜덤 자연 이미지만 사용, 이상 데이터 노출(OE))가 ImageNet 및 CIFAR-10 벤치마크에서 최신 비지도 방법들을 능가함을 보여주며, 영상의 다중 척도 구조적 정보를 활용해 소수의 OE 샘플이 이상 탐지에 매우 유용하다는 점을 입증한다.

ABSTRACT

Though anomaly detection (AD) can be viewed as a classification problem (nominal vs. anomalous) it is usually treated in an unsupervised manner since one typically does not have access to, or it is infeasible to utilize, a dataset that sufficiently characterizes what it means to be "anomalous." In this paper we present results demonstrating that this intuition surprisingly seems not to extend to deep AD on images. For a recent AD benchmark on ImageNet, classifiers trained to discern between normal samples and just a few (64) random natural images are able to outperform the current state of the art in deep AD. Experimentally we discover that the multiscale structure of image data makes example anomalies exceptionally informative.

연구 동기 및 목표

• 이상 데이터를 특성화하기 어려운 점을 고려해 딥 영상 이상 탐지(DAD)가 반드시 비지도 학습이어야 한다는 오랜 가정을 도전하기 위해.
• 일반적으로 비정상으로 간주되는 소수의 랜덤 자연 이미지가 딥 이상 탐지기의 훈련에 효과적인 이상 데이터로 기능할 수 있는지 조사하기 위해.
• 특정 이상 데이터가 아닌 최소한의 비타겟팅 이상 데이터를 사용한 지도 학습 이상 데이터 노출(OE)이 최신 비지도 및 준지도 AD 방법을 초월할 수 있는지 평가하기 위해.
• 영상의 다중 척도 구조가 랜덤 이미지가 이상 탐지에 매우 유용한 정보를 제공할 수 있도록 하는 역할을 분석하기 위해.

제안 방법

• 정상 영상와 소수의 랜덤 자연 이미지를 이상 데이터로 간주하여 이진 교차 엔트로피 손실을 사용해 표준 딥 신경망을 훈련하는 방식.
• Hendrycks 등(2019b)의 동일한 이상 데이터 노출(OE) 설정을 사용하며, 이때 OE 데이터는 훈련 중에 볼 수 없었던 ImageNet 또는 ImageNet-22K의 랜덤 이미지로 구성된다.
• 다양한 데이터셋(MNIST, CIFAR-10, ImageNet-1K)에서 표준 one-vs.-rest 이상 탐지 벤치마크를 사용해 AUC를 주요 지표로 성능을 평가한다.
• OE 샘플 수를 64장에서 128장으로 다양하게 변화시켜 탐지 성능에 미치는 영향을 분석한다.
• 일반화 성능 평가를 위해 EMNIST-Letters 및 CIFAR-100과 같은 다른 OE 데이터 소스를 사용해 탄력성과 전이 가능성(transferability)을 평가한다.
• 각 랜덤 OE 이미지가 훈련 신호에 다양한 공간 척도의 이상을 기여하는 방식을 관찰함으로써 영상의 다중 척도 특징이 미치는 영향을 분석한다.

실험 결과

연구 질문

• RQ1 최소한의 이상 데이터 노출을 통한 지도 학습 접근 방식이 영상 벤치마크에서 최신 비지도 딥 이상 탐지 방법을 능가할 수 있는가?
• RQ2 비지도 방법과 경쟁하거나 승승을 거두기 위해 얼마나 적은 이상 샘플이 필요한가?
• RQ3 진정한 이상과 어떤 의미적 유사성도 없는 랜덤 자연 이미지가 왜 여전히 딥 영상 DAD에서 매우 효과적인 이상 데이터로 기능하는가?
• RQ4 영상의 다중 척도 구조가 랜덤 이미지가 이상성에 대한 정보성 있는 표현을 전달하도록 하는 데 얼마나 기여하는가?

주요 결과

• 64장의 랜덤 자연 이미지를 이상 데이터로 사용한 지도 학습 분류기는 ImageNet one-vs.-rest 이상 탐지 벤치마크에서 모든 비지도 및 준지도 최신 방법을 능가하며, 평균 AUC 97.7%를 기록한다.
• 128개의 OE 샘플을 사용할 경우, CIFAR-10 벤치마크에서 경쟁력 있는 성능(평균 AUC 97.5%)을 달성하며, 이는 이전 비지도 방법의 성능을 충족하거나 초월한다.
• 이 방법은 다양한 OE 데이터 소스로 일반화 가능하다: EMNIST-Letters의 10개 클래스나 CIFAR-100의 100개 클래스를 OE 데이터로 사용해도 강력한 탐지 성능을 유지하며, 이는 OE 데이터 구성에 대한 강건성(robustness)을 시사한다.
• 성능 향상 요인은 영상의 다중 척도 구조적 특성에 기인한다. 각 랜덤 이미지가 다양한 공간 척도의 특징을 포함하고 있어, 이들이 함께 다양한 형태의 이상성 표현을 가능하게 한다.
• 딥 모델이 클래스를 학습하기 위해 수천 개의 샘플이 필요하다는 공통된 믿음과는 정반대로, 이 결과는 이상 데이터가 본질적으로 산재해 있고 특성화하기 어려운 것이라는 믿음을 뒤집는다.
• 훈련 데이터에 실제 이상 예측 예시가 전혀 포함되지 않았음에도 불구하고 모델은 이상을 효과적으로 탐지할 수 있었으며, 이는 랜덤 이미지가 단순한 노이즈가 아니라 이상 탐지에 매우 풍부한 구분 능력 정보를 지닌다는 것을 시사한다.