[논문 리뷰] OMASGAN: Out-of-Distribution Minimum Anomaly Score GAN for Sample Generation on the Boundary

Nikolaos Dionelis, Mehrdad Yaghoobi외 1명|arXiv (Cornell University)|2021. 10. 28.

Anomaly Detection Techniques and Applications인용 수 4

한 줄 요약

OMASGAN은 정상 클래스 데이터만을 사용하여 데이터 분포 경계에서 이상치 점수 최소화를 갖는 이방향(Out-of-Distribution, OoD) 샘플을 생성하는 새로운 GAN 기반 이상 탐지 프레임워크이다. 이러한 적대적 OoD 샘플을 사용해 자기지도 재학습을 수행하고, 실제 데이터와 생성된 데이터를 기반으로 훈련된 판별자와 함께 OMASGAN은 역전환 가능성, 가능도, 특징 공학 없이도 이상 탐지 성능을 향상시킨다. 이로써 이방향 평가 조건에서 MNIST에 대해 0.24, CIFAR-10에 대해 0.07의 최신 기준 AUROC 향상을 달성한다.

ABSTRACT

Generative models trained in an unsupervised manner may set high likelihood and low reconstruction loss to Out-of-Distribution (OoD) samples. This increases Type II errors and leads to missed anomalies, overall decreasing Anomaly Detection (AD) performance. In addition, AD models underperform due to the rarity of anomalies. To address these limitations, we propose the OoD Minimum Anomaly Score GAN (OMASGAN). OMASGAN generates, in a negative data augmentation manner, anomalous samples on the estimated distribution boundary. These samples are then used to refine an AD model, leading to more accurate estimation of the underlying data distribution including multimodal supports with disconnected modes. OMASGAN performs retraining by including the abnormal minimum-anomaly-score OoD samples generated on the distribution boundary in a self-supervised learning manner. For inference, for AD, we devise a discriminator which is trained with negative and positive samples either generated (negative or positive) or real (only positive). OMASGAN addresses the rarity of anomalies by generating strong and adversarial OoD samples on the distribution boundary using only normal class data, effectively addressing mode collapse. A key characteristic of our model is that it uses any f-divergence distribution metric in its variational representation, not requiring invertibility. OMASGAN does not use feature engineering and makes no assumptions about the data distribution. The evaluation of OMASGAN on image data using the leave-one-out methodology shows that it achieves an improvement of at least 0.24 and 0.07 points in AUROC on average on the MNIST and CIFAR-10 datasets, respectively, over other benchmark and state-of-the-art models for AD.

연구 동기 및 목표

• 이상 탐지에서 생성 모델이 OoD 샘플에 대해 높은 가능도를 부여해 제2종 오류(Type II error)와 잠재적 이상치 탐지 실패를 유발하는 문제를 해결하기 위해.
• 훈련 중 이상치의 희귀성을 극복하기 위해 정상 클래스 데이터만을 사용하여 추정된 데이터 분포 경계에서 강력한 적대적 OoD 샘플을 생성하기 위해.
• 분리된 지지역간을 가지는 다중모드 데이터 분포의 학습을 개선하기 위해 경계 샘플을 생성하여 재학습함으로써 모드 붕괴를 방지하기 위해.
• 특징 공학, 가능도, 역전환 가능성 없이도 데이터 및 아키텍처에 관계없이 적용 가능한 자기지도 학습 기반 방법을 개발하기 위해.
• 실제 양성 샘플과 생성된 음성 샘플을 기반으로 훈련된 판별자를 사용해 강건한 추론이 가능한 이상 탐지에서 최신 기준 성능을 달성하기 위해.

제안 방법

• OMASGAN은 f-발산 기반 GAN을 사용해 정상 데이터 분포를 모델링하며, 역전환 가능성 없이도 임의의 f-발산을 변분 표현에서 활용한다.
• 모델은 생성자와 경계 분포 간의 통계적 발산을 기반으로, 정상 데이터 분포 경계에서 이상치 점수가 최소화되는 OoD 샘플을 생성하는 경계 생성자 $B(\mathbf{z})$를 도입한다.
• 이러한 최소 이상치 점수 OoD 샘플을 훈련 과정에 통합함으로써 음성 재학습을 수행하고, 이로써 진정된 데이터 지지역을 더 잘 표현하는 생성자 $G'(\mathbf{z})$를 개선한다.
• 실제 양성 샘플과 생성된 음성 샘플( $B(\mathbf{z})$에서 유래)을 사용해 판별자 $J(\mathbf{x})$를 훈련하여 추론 시 내재된 데이터와 OoD 데이터를 구분한다.
• 테스트 샘플 $\mathbf{x}^*$의 이상치 점수는 학습된 생성자와 $\mathbf{x}^*$에서의 Dirac 델타 간의 f-발산을 사용해 계산되며, 이는 강건한 탐지 성능을 보장한다.
• 프레임워크는 데이터 분포 학습과 이상 탐지 향상을 위한 자기지도 학습을 사용하며, 데이터 분포에 대한 가정이나 수동적 특징 공학의 필요 없이 작동한다.

실험 결과

연구 질문

• RQ1 정상 클래스 데이터만을 사용하여 데이터 분포 경계에서 의미 있는 적대적 OoD 샘플을 생성함으로써 이상 탐지 성능을 향상시킬 수 있는가?
• RQ2 재학습 과정에서 최소 이상치 점수 OoD 샘플을 통합할 경우 이상 탐지 모델의 일반화 능력과 강건성에 어떤 영향을 미치는가?
• RQ3 실제 양성 샘플과 생성된 음성 샘플을 기반으로 훈련된 판별자가 기존 GAN 기반 및 AE 기반 이상 탐지 모델보다 뛰어난 성능을 내는가?
• RQ4 OMASGAN은 MNIST와 CIFAR-10과 같은 벤치마크 데이터셋에서 이방향 평가 조건에서 AUROC를 얼마나 향상시키는가? 이는 실제 이상 탐지 시나리오에 더 부합한다.
• RQ5 OMASGAN은 분리된 지지역 또는 다중모드 지지역을 가지는 다양한 데이터 분포와 다양한 난수 시드에 대해 성능 안정성을 유지하는가?

주요 결과

• OMASGAN은 이방향 평가 조건에서 기준 모델 및 최신 기준 모델 대비 MNIST 데이터셋에서 평균 AUROC를 최소 0.24 포인트 향상시켰다.
• CIFAR-10에서는 동일한 평가 프로토콜 하에서 기존 모델 대비 AUROC를 최소 0.07 포인트 향상시켰으며, 복잡한 데이터에서의 일관된 성능 향상을 입증했다.
• One-Class Classification (OCC) 평가 조건에서 OMASGAN은 CIFAR-10에서 평균 AUROC 0.85를 기록했으며, GAN 기반 모델(AnoGAN, MinLGAN), AE 기반 모델(VAE, DeepSVDD), DROCC 기반 판별자 모델을 모두 능가했다.
• 기하학적 변환을 통한 데이터 증강을 포함한 OMASGANaug는 성능을 약간 향상시키며, 다양한 난수 시드에 대해 강건성을 보였으며, 클래스 및 시드 간 평균 표준편차가 0.06을 기록했다.
• 제거 분석 결과, 추론 시 판별자 $J(\mathbf{x})$를 사용하는 것이 기본 모델 대비 성능 향상에 기여하며, Task 1에서 OMASGAN으로 갈수록 점진적인 성능 향상이 관찰되었다.
• OMASGAN은 초기화에 대해 낮은 민감도를 보였으며, 시드 간 평균 표준편차가 0.06이었고, 이는 이전 연구에서 보고된 0.1보다 낮아 강력한 훈련 안정성을 나타낸다.