[논문 리뷰] Fence GAN: Towards Better Anomaly Detection

Cuong Phuc Ngo, Amadeus Aristo Winarto외 4명|arXiv (Cornell University)|2019. 04. 02.

Anomaly Detection Techniques and Applications참고 문헌 28인용 수 7

한 줄 요약

Fence GAN (FGAN)은 기존의 정상 데이터 분포와 겹치는 것을 방지하고, 정상 데이터 분포의 경계에서 샘플을 생성하도록 수정된 GAN 손실을 제안한다. 이는 판별자의 출력 점수를 직접 이상치 점수로 사용할 수 있게 하여, 아키텍처 수정이나 재구성 손실 없이 MNIST, CIFAR10, KDD99 데이터셋에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Anomaly detection is a classical problem where the aim is to detect anomalous data that do not belong to the normal data distribution. Current state-of-the-art methods for anomaly detection on complex high-dimensional data are based on the generative adversarial network (GAN). However, the traditional GAN loss is not directly aligned with the anomaly detection objective: it encourages the distribution of the generated samples to overlap with the real data and so the resulting discriminator has been found to be ineffective as an anomaly detector. In this paper, we propose simple modifications to the GAN loss such that the generated samples lie at the boundary of the real data distribution. With our modified GAN loss, our anomaly detection method, called Fence GAN (FGAN), directly uses the discriminator score as an anomaly threshold. Our experimental results using the MNIST, CIFAR10 and KDD99 datasets show that Fence GAN yields the best anomaly classification accuracy compared to state-of-the-art methods.

연구 동기 및 목표

• 표준 GAN 훈련 목표와 이상 탐지 목표 사이의 부합 불일치 문제를 해결하기 위해, 생성된 샘플이 정상 데이터 분포와 겹치는 것이 판별자의 효과를 떨어뜨리는 것을 방지한다.
• 정상 데이터 분포의 경계에서 샘플을 생성하도록 GAN 손실을 수정하여 고차원 데이터에서 이상 탐지 성능을 향상시킨다.
• 재구성 또는 보조 손실 없이 판별자 점수만을 사용하여 단순하고 즉각 적용 가능한 이상 탐지 방법을 가능하게 한다.
• 다양한 벤치마크에서 방법을 검증한다: MNIST, CIFAR10, KDD99 네트워크 침입 데이터셋.

제안 방법

• 실제 데이터 분포의 경계에서 샘플을 생성하도록 훈련하는 수정된 GAN 손실을 도입한다. 이는 생성자에게 실제 데이터 분포 내부가 아니라 경계에서 샘플을 생성하도록 유도한다.
• 생성자 목표를 수정하여 생성된 샘플과 실제 데이터 분포 사이의 거리를 최대화하도록 하며, 초파라미터 α와 β를 사용한 경계 둘러싸기 손실을 적용한다.
• 추론 시점에 판별자의 진짜/가짜 확률 점수를 이상치 점수로 직접 사용하여 재구성 또는 특징 매칭이 필요 없도록 한다.
• 기본적인 GAN 아키텍처와 훈련 파이프라인을 유지하면서 수정된 목표로 GAN을 표준 대비적 방식으로 훈련시킨다.
• 모드 붕괴를 방지하기 위해 생성된 경계 샘플의 다양성을 유도하기 위해 산란 손실을 적용한다.
• 안정성과 경계 분리 성능을 향상시키기 위해 판별자에 힌지 유사 손실을 사용한다.

실험 결과

연구 질문

• RQ1 정상 데이터 분포의 경계에서 샘플을 생성하도록 GAN 손실을 수정하면 이상 탐지 성능이 향상되는가?
• RQ2 판별자 점수를 직접 이상치 점수로 사용할 경우, 재구성 기반 또는 특징 매칭 기반 점수보다 더 좋은 성능을 낼 수 있는가?
• RQ3 기존의 복잡한 GAN 기반 이상 탐지 방법(예: GANomaly 또는 Efficient GAN)을 능가할 수 있는가? 단, GAN 목표에 대한 단순한 수정만으로도 가능한가?
• RQ4 Fence GAN은 이미지 데이터(MNIST, CIFAR10)와 표본형 네트워크 침입 데이터(KDD99)를 포함한 다양한 데이터셋에서 어떻게 성능을 발휘하는가?

주요 결과

• KDD99 데이터셋에서 Fence GAN은 F1 점수 0.95 ± 0.02를 기록하여 Efficient-GAN(0.91 ± 0.07) 및 기타 최신 기술 수준의 방법들을 능가했다.
• CIFAR10에서 Fence GAN은 비교된 모든 방법 중 평균 이상 탐지 정확도가 가장 높았으며, 판별자 점수가 이상 클래스와 정상 클래스를 명확히 분리하는 경향을 보였다.
• MNIST에서 Fence GAN은 정상 숫자와 이상 숫자를 뚜렷이 구분하는 데 뛰어난 성능을 보였으며, 이상 샘플에 대해 일관되고 높은 판별자 점수를 기록했다.
• 판별자 점수만으로도 고정확도 이상 탐지가 가능하여 추가적인 재구성 또는 특징 매칭 손실이 필요 없었다.
• 아키텍처 수정 없이 표준 GAN 프레임워크에 손실 함수만 수정함으로써 최신 기술 수준의 성능을 달성했다.