[논문 리뷰] Exposing Outlier Exposure: What Can Be Learned From Few, One, and Zero Outlier Images

Philipp Liznerski, Lukas Ruff외 4명|arXiv (Cornell University)|2022. 05. 23.

Anomaly Detection Techniques and Applications인용 수 13

한 줄 요약

이 논문은 딥 애너미니 인식(AD)이 비지도 학습 방법 또는 대규모 이상치 노출(OE) 데이터를 필요로 한다는 가정을 도전한다. 표준 분류기들을 단지 256장의 랜덤 이미지 또는 심지어 하나의 잘 선택된 이상치 샘플로 학습시킬 경우, ImageNet과 CIFAR-10 벤치마크에서 최신 기술 수준(SOTA) AD 모델을 능가할 수 있음을 보여준다. 또한 CLIP 기반의 제로샷 표현은 어떤 학습 데이터 없이도 SOTA 성능을 달성한다.

ABSTRACT

Due to the intractability of characterizing everything that looks unlike the normal data, anomaly detection (AD) is traditionally treated as an unsupervised problem utilizing only normal samples. However, it has recently been found that unsupervised image AD can be drastically improved through the utilization of huge corpora of random images to represent anomalousness; a technique which is known as Outlier Exposure. In this paper we show that specialized AD learning methods seem unnecessary for state-of-the-art performance, and furthermore one can achieve strong performance with just a small collection of Outlier Exposure data, contradicting common assumptions in the field of AD. We find that standard classifiers and semi-supervised one-class methods trained to discern between normal samples and relatively few random natural images are able to outperform the current state of the art on an established AD benchmark with ImageNet. Further experiments reveal that even one well-chosen outlier sample is sufficient to achieve decent performance on this benchmark (79.3% AUC). We investigate this phenomenon and find that one-class methods are more robust to the choice of training outliers, indicating that there are scenarios where these are still more useful than standard classifiers. Additionally, we include experiments that delineate the scenarios where our results hold. Lastly, no training samples are necessary when one uses the representations learned by CLIP, a recent foundation model, which achieves state-of-the-art AD results on CIFAR-10 and ImageNet in a zero-shot setting.

연구 동기 및 목표

• 대규모 이상치 노출이 딥 이상치 인식에서 최신 기술 수준 성능을 달성하는 데 필수적인가를 조사하기 위해.
• 소량의 이상치 데이터(몇 개, 하나, 또는 전혀 없음)가 이상치 인식 모델 학습에 얼마나 효과적인지 평가하기 위해.
• 다양한 이상치 노출 환경에서 표준 분류기와 일종의 방법 간의 강건성과 성능을 비교하기 위해.
• 어떤 미세조정 없이도 사전 학습된 CLIP 표현을 사용해 제로샷 이상치 인식이 가능한지 평가하기 위해.
• 감독 기반 OE가 기존 비지도 또는 준지도 접근 방식보다 우월한 조건을 규명하기 위해.

제안 방법

• 정상 데이터와 소량의 랜덤 자연 이미지를 이상치 노출(OE) 데이터로 삼아 표준 이진 분류기를 학습하는 방식.
• ImageNet과 CIFAR-10 벤치마크에서 256개, 64개, 16개, 또는 심지어 하나의 OE 샘플로 분류기를 학습하는 방식.
• 일대다 이상치 인식 벤치마크를 사용해 성능을 평가하며, 이는 분야 내 표준적인 시험 기준이다.
• 저통과 및 고통과 필터링을 통한 데이터 증강을 적용해 OE 샘플의 강건성을 탐색하는 방식.
• CLIP의 시각 인코더를 사용해 학습 데이터 없이도 제로샷 이상치 인식을 위한 특징을 추출하는 방식.
• 다양한 OE 데이터 유형(예: 자연 이미지, 필터링된 이미지)과 최적화 목표(HSC, BCE) 간의 성능를 비교하는 방식.

실험 결과

연구 질문

• RQ1 256장의 랜덤 이미지만으로 학습된 표준 분류기가 ImageNet에서 최신 기술 수준의 비지도 이상치 인식 방법을 능가할 수 있는가?
• RQ2 한 개의 잘 선택된 이상치 샘플로도 경쟁 가능한 이상치 인식 성능를 달성할 수 있는가?
• RQ3 이상치 데이터가 제한적이거나 대표성이 떨어질 경우, 감독 기반 OE와 비지도 기반 OE의 성능는 어떻게 비교되는가?
• RQ4 소량의 OE 데이터에서 일종의 방법이 표준 분류기보다 우월한 성능를 보이는 상황은 어떤가?
• RQ5 CLIP 기반 표현을 사용해 어떤 학습 데이터 없이도 최신 기술 수준의 제로샷 이상치 인식이 가능한가?

주요 결과

• 단지 256장의 랜덤 이상치 이미지만으로 학습된 표준 분류기가 ImageNet의 일대다 이상치 인식 벤치마크에서 현재 최신 기술 수준을 초월한다.
• 단 한 장의 잘 선택된 이상치 샘플만으로도 분류기는 ImageNet 벤치마크에서 79.3% AUC를 달성하여 극히 소량의 데이터로도 뛰어난 성능를 보여준다.
• 일종의 방법은 표준 분류기보다 나쁜 이상치 선택에 더 강건하므로, 데이터가 부족하거나 비대칭적인 이상치 환경에서 유용하다는 점을 시사한다.
• OE 데이터에 저통과 및 고통과 필터링을 적용한 결과, 영상 주파수 성분이 모델의 일반화 능력과 성능에 상당한 영향을 미친다는 것이 드러났다.
• CLIP 기반 제로샷 표현은 어떤 학습 데이터 없이도 CIFAR-10과 ImageNet에서 최신 기술 수준의 결과를 달성하며, 감독 및 비지도 기반 베이스라인을 모두 능가한다.
• 오랫동안 받아들여진 비지도 또는 준지도 방법이 딥 AD에 필수적이라는 가정을 뒤집으며, 극히 소량의 데이터로도 감독 기반 OE가 매우 효과적일 수 있음을 보여준다.