[논문 리뷰] Adversarially Learned Anomaly Detection

Houssam Zenati, Manon Romain외 3명|arXiv (Cornell University)|2018. 12. 06.

Anomaly Detection Techniques and Applications참고 문헌 35인용 수 23

한 줄 요약

이 논문은 이상 탐지에 적합한 특징을 적대적으로 훈련하는 이중 방향 GAN과 인코더를 사용하는 GAN 기반 방법인 Adversarially Learned Anomaly Detection (ALAD)를 제안한다. 이러한 특징과 재구성 오차를 활용함으로써 ALAD는 이미지 및 표 형식 데이터셋에서 최신 기준 성능을 달성하면서도 기존 GAN 기반 방법보다 수백 배 빠른 추론 속도를 확보한다.

ABSTRACT

Anomaly detection is a significant and hence well-studied problem. However, developing effective anomaly detection methods for complex and high-dimensional data remains a challenge. As Generative Adversarial Networks (GANs) are able to model the complex high-dimensional distributions of real-world data, they offer a promising approach to address this challenge. In this work, we propose an anomaly detection method, Adversarially Learned Anomaly Detection (ALAD) based on bi-directional GANs, that derives adversarially learned features for the anomaly detection task. ALAD then uses reconstruction errors based on these adversarially learned features to determine if a data sample is anomalous. ALAD builds on recent advances to ensure data-space and latent-space cycle-consistencies and stabilize GAN training, which results in significantly improved anomaly detection performance. ALAD achieves state-of-the-art performance on a range of image and tabular datasets while being several hundred-fold faster at test time than the only published GAN-based method.

연구 동기 및 목표

• 이미지 및 표 형식 데이터와 같은 고차원이고 복잡한 데이터에서 이상을 탐지하는 과제를 해결한다.
• 테스트 시점에서 최적화가 필요한 기존 GAN 기반 이상 탐지 방법의 계산 비효율성을 극복한다.
• 최근의 아키텍처 발전을 활용하여 이상 탐지용 GAN의 훈련 안정성과 특징 품질을 향상시킨다.
• 고도의 탐지 정확도를 유지하면서도 테스트 시점에서 반복 최적화 없이도 빠른 피드포워드 추론을 가능하게 하는 방법을 개발한다.

제안 방법

• 훈련 단계 동안 생성자, 판별자, 인코더를 동시에 훈련하는 이중 방향 GAN 프레임워크를 사용한다.
• 입력 데이터를 직접 잠재 공간으로 매핑하기 위해 인코더를 활용함으로써, 테스트 시점에서 단일 순방향 전파를 통해 빠른 추론을 가능하게 한다.
• 특징 공간에서 원본 샘플과 재구성된 샘플 간의 유사도를 평가하기 위해 재구성 판별자를 도입한다.
• 판별자의 중간 레이어에서 실재 특징와 재구성된 특징 간의 차이의 L1 노름을 기반으로 이상도 점수를 계산한다.
• GAN 훈련의 안정성 향상과 특징 품질 향상을 위해 스펙트럴 정규화 및 잠재 공간 내 추가 판별자를 적용한다.
• 데이터 공간과 잠재 공간 간의 사이클 일致성을 강제하여 의미 있는 재구성과 강력한 특징 학습을 보장한다.

실험 결과

연구 질문

• RQ1 반복 최적화 없이도 빠른 추론이 가능하면서도 최신 기준 성능을 달성할 수 있는 GAN 기반 이상 탐지 방법은 가능한가?
• RQ2 적대적으로 학습된 특징는 기존의 재구성 오차(L1, L2) 또는 판별자 출력 로짓에 비해 이상 탐지 성능에서 어떻게 비교되는가?
• RQ3 스펙트럴 정규화 및 보조 판별자와 같은 훈련 안정화 기법이 이상 탐지 성능에 얼마나 기여하는가?
• RQ4 잠재 공간 판별자와 사이클 일치 제약 조건의 포함이 특징 품질 향상과 탐지 정확도 향상에 기여하는가?

주요 결과

• CIFAR-10에서 ALAD는 AUROC 0.6072 ± 0.1201을 기록하며, 베이스라인 GAN 및 다른 재구성 기반 방법을 능가한다. SVHN에서는 AUROC 0.5753 ± 0.0268을 기록한다.
• KDD99 및 Arrhythmia 표 형식 데이터셋에서, 적대적으로 학습된 특징 기반 이상도 점수는 각각 F1 점수 0.9501 ± 0.0018 및 0.5152 ± 0.0214를 기록하며, L1, L2 및 로짓 기반 점수를 모두 초월한다.
• 스펙트럴 정규화 및 잠재 공간 판별자를 사용함으로써 SVHN 및 CIFAR-10에서 성능 향상이 이루어졌으며, 특히 스펙트럴 정규화가 가장 강력한 긍정적 영향을 미쳤다.
• 반복적인 잠재 코드 최적화가 필요 없어지면서 ALAD는 유사한 GAN 기반 방법(AnoGAN)보다 테스트 시점에서 수백 배 빠른 속도를 확보한다.
• 제거 실험 결과, 재구성 판별자와 잠재 공간 판별자가 성능 향상에 크게 기여하며, 특히 이미지 데이터에서 두드러진다.
• 이 방법은 다양한 데이터 모odal에 대해 잘 일반화되며, 고차원 이미지와 표 형식 데이터 모두에서 뛰어난 성능을 보였다.