[논문 리뷰] Catching Both Gray and Black Swans: Open-set Supervised Anomaly Detection

Choubo Ding, Guansong Pang외 1명|arXiv (Cornell University)|2022. 03. 28.

Anomaly Detection Techniques and Applications인용 수 11

한 줄 요약

이 논문은 기존의 알려진 이상 현상(grayscale swans)과 새로운 이상 현상(블랙 스완)을 모두 탐지할 수 있도록, 알려진 이상 현상, 데이터 증강을 통한 가짜 이상 현상, 잠재 잔차 이상 현상의 분리된 표현을 학습하는 새로운 개방형 설정의 지도 기반 이상 탐지 모델인 DRA를 제안한다. 이 세 가지 이상 유형에 대해 다중 헤드 학습을 활용함으로써 DRA는 아홉 개의 실제 데이터셋에서 최신 기술(SOTA) 성능을 달성하며, 특히 알려진 이상 예제가 적거나 없는 과도한 설정에서 기존의 비지도 및 지도 기반 방법들을 크게 능가한다.

ABSTRACT

Despite most existing anomaly detection studies assume the availability of normal training samples only, a few labeled anomaly examples are often available in many real-world applications, such as defect samples identified during random quality inspection, lesion images confirmed by radiologists in daily medical screening, etc. These anomaly examples provide valuable knowledge about the application-specific abnormality, enabling significantly improved detection of similar anomalies in some recent models. However, those anomalies seen during training often do not illustrate every possible class of anomaly, rendering these models ineffective in generalizing to unseen anomaly classes. This paper tackles open-set supervised anomaly detection, in which we learn detection models using the anomaly examples with the objective to detect both seen anomalies (`gray swans') and unseen anomalies (`black swans'). We propose a novel approach that learns disentangled representations of abnormalities illustrated by seen anomalies, pseudo anomalies, and latent residual anomalies (i.e., samples that have unusual residuals compared to the normal data in a latent space), with the last two abnormalities designed to detect unseen anomalies. Extensive experiments on nine real-world anomaly detection datasets show superior performance of our model in detecting seen and unseen anomalies under diverse settings. Code and data are available at: https://github.com/choubo/DRA.

연구 동기 및 목표

• 기존의 지도 기반 이상 탐지 모델이 알려진 이상 현상에 과적합되며, 새로운 이상 유형으로의 일반화에 실패하는 한계를 해결하기 위해.
• 실제 응용에서 ' GRAY 스완'(이미 관찰된 알려진 이상 현상)과 '블랙 스완'(희귀하고 이전에 알려지지 않은 이상 현상)을 효과적으로 탐지할 수 있도록 하기 위해.
• 제한된 레이블이 부여된 이상 예제와 함께 데이터 증강 및 잠재 공간 잔차 분석을 활용하여, 새로운 이상 패tern으로의 일반화를 향상시키기 위해.
• 레이블이 부여된 이상 데이터에만 의존하지 않고, 다양한 이상 표현을 동시에 학습할 수 있는 통합 프레임워크를 개발하기 위해.

제안 방법

• DRA는 세 가지 이상 유형 — 알려진 이상 현상, 가짜 이상 현상, 잠재 잔차 이상 현상 — 의 분리된 표현을 학습하기 위해 세 개의 전용 헤드를 갖춘 다중 헤드 신경망 아키텍처를 사용한다.
• 가짜 이상 현상은 CutPaste-Scar 및 CutMix와 같은 데이터 증강 기법을 사용하여 생성되며, 현실적이지만 합성된 이상 패턴을 시뮬레이션한다.
• 잠재 잔차 이상 현상은 학습된 잠재 공간에서 복원 잔차를 측정함으로써 식별되며, 높은 잔차는 잠재적인 새로운 이상 현상을 나타낸다.
• 모델는 모든 세 헤드에서 정상 및 비정상 표현 간의 특징 분리를 장려하기 위해 대조 학습 목적 함수를 사용한다.
• 기준 기반 잔차 학습 메커니즘은 N_r개의 정상 이미지를 샘플링하여 잠재 잔차를 계산하며, 분석 실험에서 N_r = 5가 최적임을 확인하였다.
• 최종 이상도는 모든 세 헤드의 예측을 가중 융합한 것으로, 다양한 이상 유형에 대한 강력한 탐지 성능을 제공한다.

실험 결과

연구 질문

• RQ1 기존의 이상 예제가 몇 개 밖에 없는 상황에서, 지도 기반 이상 탐지 모델이 새로운 이상 유형으로의 일반화를 효과적으로 수행할 수 있는가?
• RQ2 다양한 이상 표현 유형 — 알려진 이상 현상, 가짜 이상 현상, 잠재 잔차 이상 현상 — 이 서로 어떻게 보완되어 탐지 일반화 성능을 향상시키는가?
• RQ3 새로운 이상 현상을 탐지하기 위해 향상시키기 위해 최적의 가짜 이상 현상 생성 전략은 무엇인가? 이는 편향을 유발하지 않는다.
• RQ4 잠재 잔차 계산에 사용되는 기준 세트의 크기가 새로운 이상 현상 탐지 성능에 미치는 영향은 어떠한가?
• RQ5 제한된 또는 전혀 이상 데이터가 없는 실제 데이터셋에서 분리된 표현 학습이 성능 향상에 얼마나 기여하는가?

주요 결과

• DRA는 아홉 개의 실제 이상 탐지 데이터셋에서 최신 기술(SOTA) 성능을 달성하며, 다섯 개의 최신 비지도 및 지도 기반 모델을 능가한다. 특히 새로운 이상 현상 탐지에서 두각을 나타낸다.
• MVTec AD 데이터셋에서 DRA는 'Leather' 세트에서 평균 AUC 0.935 ± 0.013, 'Tile' 세트에서 0.922 ± 0.012를 기록하며, 비지도 모델인 KDAD와 지도 모델인 DevNet보다 새로운 이상 현상을 탐지하는 데 뚜렷한 승리를 거두었다.
• 학습용 이상 예제가 하나뿐인 경우에도 DRA는 강력한 성능 유지를 보이며, 'Thread' 세트에서 평균 AUC 0.850 ± 0.070을 기록하여 저샷 설정에서의 강인함을 입증하였다.
• 비의료 데이터셋에서는 외부 데이터 소스보다 데이터 증강 기반 가짜 이상 현상(예: CutPaste-Scar)이 더 나은 결과와 더 안정적인 성능을 제공하지만, 의료 데이터셋인 Hyper-Kvasir에서는 외부 데이터(예: LAG)가 더 우수한 성능을 보였다.
• 잠재 잔차 학습의 최적 기준 크기는 N_r = 5이며, 이를 10으로 늘려도 성능 향상이 일관되게 이루어지지 않으며, 심지어 N_r = 1일 때도 효과적인 탐지에 충분하다.
• 민감도 분석 결과, 가짜 이상 현상 소스와 기준 크기의 변동에 대해 모델이 강인하며, 다양한 설정에서 일관된 성능 향상이 확인되었다.