[논문 리뷰] DOPING: Generative Data Augmentation for Unsupervised Anomaly Detection with GAN

Swee Kiat Lim, Yi Loo외 4명|arXiv (Cornell University)|2018. 08. 23.

Anomaly Detection Techniques and Applications인용 수 7

한 줄 요약

이 논문은 이상 탐지 성능을 햖을 수 있도록 이상치가 드문 정상 샘플을 생성하는 적대적 autoencoder(ADAE)를 사용하는 새로운 비지도 데이터 증강 방법인 DOPING을 제안한다. 고차원의 다중모달 데이터를 잘 정의된 꼬리 부분을 가진 단일모달 잠재 공간으로 변환함으로써, DOPING은 이 공간의 가장자리에서 전략적으로 오버샘플링하여 가짜 이상 탐지 수를 줄이며, 레이블이 필요 없이 다양한 실세계 데이터셋에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Recently, the introduction of the generative adversarial network (GAN) and its variants has enabled the generation of realistic synthetic samples, which has been used for enlarging training sets. Previous work primarily focused on data augmentation for semi-supervised and supervised tasks. In this paper, we instead focus on unsupervised anomaly detection and propose a novel generative data augmentation framework optimized for this task. In particular, we propose to oversample infrequent normal samples - normal samples that occur with small probability, e.g., rare normal events. We show that these samples are responsible for false positives in anomaly detection. However, oversampling of infrequent normal samples is challenging for real-world high-dimensional data with multimodal distributions. To address this challenge, we propose to use a GAN variant known as the adversarial autoencoder (AAE) to transform the high-dimensional multimodal data distributions into low-dimensional unimodal latent distributions with well-defined tail probability. Then, we systematically oversample at the `edge' of the latent distributions to increase the density of infrequent normal samples. We show that our oversampling pipeline is a unified one: it is generally applicable to datasets with different complex data distributions. To the best of our knowledge, our method is the first data augmentation technique focused on improving performance in unsupervised anomaly detection. We validate our method by demonstrating consistent improvements across several real-world datasets.

연구 동기 및 목표

• 비지도 이상 탐지에서 높은 가짜 이상 탐지 비율을 해결하기 위해, 잘 정의되지 않은 드문 정상 샘플로 인한 영향을 줄이기 위해.
• 클래스 레이블에 의존하지 않고 이상 탐지 성능을 향상시키는 데이터 증강 프레임워크를 개발하기 위해.
• 고차원의 다중모달 데이터 분포에서 드문 정상 샘플을 생성하는 과제를 해결하기 위해.
• 복잡하고 정규분포가 아닌 데이터 분포를 가진 다양한 데이터셋 간의 데이터 증강을 통합하기 위해.

제안 방법

• 전체 훈련 세트에 대해 레이블이 없는 적대적 autoencoder(AAE)를 훈련시켜 고차원 데이터를 다변량 정규분포 사전 확률를 가진 저차원 잠재 공간으로 매핑한다.
• AAE의 잠재 공간을 사용하여 복잡한 다중모달 데이터 분포를 꼬리 확률가 잘 정의된 단일모달 분포로 변환한다.
• 잠재 분포의 가장자리에서 체계적으로 오버샘플링하여 합성된 드문 정상 샘플을 생성한다.
• 잠재 공간에서 가장자리 기반 샘플링을 적용하여, 잘못 분류되기 쉬운 저확률 정상 인스턴스를 타겟으로 한다.
• 잠재 공간에서 디코딩함으로써 현실적인 합성 정상 샘플을 생성하며, 이는 정상 분포의 낮은 밀도 영역에서의 밀도를 증가시킨다.
• 생성된 샘플을 훈련 세트에 통합하여 이상 탐지기의 드문 정상 이벤트와 이상 현상 간의 구분 능력을 향상시킨다.

실험 결과

연구 질문

• RQ1 드문 정상 샘플에 대한 표적화된 데이터 증강이 비지도 이상 탐지에서 가짜 이상 탐지 비율을 줄일 수 있는가?
• RQ2 클래스 레이블 없이 고차원의 다중모달 데이터 분포에서 드문 정상 샘플을 효과적으로 생성할 수 있는가?
• RQ3 AAE를 통해 단일모달 잠재 공간을 사용하면 이상 탐지 모델의 일반화 및 강건성 향상에 기여하는가?
• RQ4 복잡한 데이터 분포를 가진 다양한 실세계 데이터셋에 대해 통합된, 레이블이 없는 데이터 증강 전략이 효과적인가?
• RQ5 레이블이 없을 때 DOPING이 표준 데이터 증강 기법인 SMOTE와 INOS와 비교해 어떻게 성능을 내는가?

주요 결과

• DOPING은 테스트된 모든 데이터셋에서 F1 점수와 G-measure를 일관되게 향상시켰으며, 베이스라인 iForest 및 기타 증강 기법을 능가했다.
• 유방촬영 데이터셋에서 DOPING은 F1 점수 0.787과 G-measure 0.807을 기록하여 데이터셋의 복잡성에도 불구하고 뛰어난 성능을 보였다.
• 갑상선 데이터셋에서 DOPING은 F1 점수 0.754와 G-measure 0.775를 기록하여 낮은 오염 비율을 가진 표본 데이터에 효과적임을 입증했다.
• 림포 데이터셋에서 DOPING은 F1 점수 0.665와 G-measure 0.750를 기록하여 드문 정상 패턴의 탐지 능력 향상을 보였다.
• AUC 대 l²-노름 경향은 모든 데이터셋에서 일관되었으며, 이는 방법이 낮은 밀도 영역에서 샘플을 식별하고 생성할 수 있음을 검증했다.
• DOPING은 드문 정상 샘플의 밀도를 증가시켜 가짜 이상 탐지 수를 줄였으며, 이는 否로 잘못 분류되는 경우가 많다.