[논문 리뷰] Deep Anomaly Detection Using Geometric Transformations

Izhak Golan, Ran El‐Yaniv|arXiv (Cornell University)|2018. 05. 28.

Anomaly Detection Techniques and Applications참고 문헌 34인용 수 291

한 줄 요약

이 논문은 정상 이미지에 적용된 기하학적 변형을 식별하기 위해 다중 클래스 분류기를 학습하는 판별적 이상 탐지 방법을 제시하고, 테스트 시 Dirichlet 기반의 정상성 점수를 사용해 이상치(out-of-distribution) 샘플을 탐지한다.

ABSTRACT

We consider the problem of anomaly detection in images, and present a new detection technique. Given a sample of images, all known to belong to a "normal" class (e.g., dogs), we show how to train a deep neural model that can detect out-of-distribution images (i.e., non-dog objects). The main idea behind our scheme is to train a multi-class model to discriminate between dozens of geometric transformations applied on all the given images. The auxiliary expertise learned by the model generates feature detectors that effectively identify, at test time, anomalous images based on the softmax activation statistics of the model when applied on transformed images. We present extensive experiments using the proposed detector, which indicate that our algorithm improves state-of-the-art methods by a wide margin.

연구 동기 및 목표

• 분포 이탈 및 잡음 하에서 비전 시스템의 견고한 이상 탐지를 촉진한다.
• 정상 데이터로부터 정보가 풍부한 특징을 학습하기 위해 기하학적 변환을 활용하는 비생성적(discriminative) 프레임워크를 제안한다.
• 재구성 없이 정상성을 정량화하기 위한 확률적 점수 접근법을 개발한다.
• 여러 이미지 데이터셋에서 최첨단 이상 탐지 베이스라인과 비교 평가한다.

제안 방법

• 정상 학습 이미지 전체에 집합 T의 기하학적 변환을 적용하여 자체 표지 데이터셋을 만들고, 적용된 변환 인덱스를 예측하도록 k-클래스 분류기를 학습한다.
• 정상 학습 세트에서 도출한 Dirichlet 매개변수 추정치를 바탕으로 x의 모든 변환 버전에 대한 소프트맥스 출력의 로그 우도들을 평균해 임의의 테스트 이미지에 대해 정상성 점수 n_S(x)를 얻는다.
• 변환 i마다 변환된 학습 출력에 대한 고정점 반복법을 사용하여 Dirichlet 매개변수 alpha_i를 추정한다.
• 소프트맥스 출력들을 평균하는 간소화된 변형 n_hat_S(x)를 사용하고, 예비 실험에서도 여전히 강력한 성능을 달성한다.
• 확대된 자체 표기 세트에서 학습된 Wide Residual Network를 사용하고, 표준 교차 엔트로피 손실을 적용하며 Adam으로 최적화한다.

실험 결과

연구 질문

• RQ1 정상 이미지에 대한 여러 기하학적 변환을 구분하는 학습이 이상 탐지에 효과적인 특징을 만들어낼 수 있는가?
• RQ2 변환된 이미지 예측을 어떻게 신뢰할 수 있는 정상성 점수로 집계하여 out-of-distribution 탐지에 활용할 수 있는가?
• RQ3 다중 데이터셋에서 기존의 딥 방법들과 비교했을 때 변환 기반 이상 탐지기의 실험적 성능은 어떤가?
• RQ4 이 방법이 표기된 다중 클래스 데이터셋에서 out-of-distribution 샘플 식별로 확장되는가?
• RQ5 이동 변환 집합 선택이 이상 탐지 성능에 미치는 영향은 무엇인가?

주요 결과

• CIFAR-10에서 본 방법은 10개의 실험에서 상위 베이스라인 AUROC를 상당한 폭으로 개선했으며(평균 증가량 32%로 보고).
• CatsVsDogs에서 본 방법은 보고된 설정에서 최상의 베이스라인보다 큰 개선을 달성하고(67% AUROC).
• 데이터셋 전반에서 재구성 기반 및 다른 심층 이상 탐지 방법들보다 종종 우월하며, 특히 큰 이미지 크기에서 두드러진다.
• CIFAR-100에서는 정상 클래스 간의 내부 다양성으로 인해 성능이 다르게 나타내며, 일부 클래스에서 약한 결과를 보인다.
• fashion-MNIST에서 대부분의 방법이 양호하게 작동하고 제안된 방법이 약간의 이점을 보인다.
• 이 방법은 라벨이 있는 다중 클래스 설정에서 out-of-distribution 탐지 성능을 향상시켜 보고된 작업들에서 일부 설정된 베이스라인을 능가한다.