[논문 리뷰] Anomaly detection with Wasserstein GAN

Ilyass Haloui, Jayant Gupta외 1명|arXiv (Cornell University)|2018. 12. 06.

Anomaly Detection Techniques and Applications참고 문헌 3인용 수 6

한 줄 요약

이 논문은 시간 시리즈 데이터에서 이상 탐지에 적합한 인코더를 갖춘 워샤르스키 GAN을 제안하며, 생성자에 의해 정상 샘플을 재구성하고 재구성 오차를 통해 이상을 탐지하는 능력을 활용한다. UCI HAR 데이터셋에서 70%의 AUPRC를 달성하여 이 접근 방식이 多변량 시간 시리즈 환경에서 최고 수준의 성능을 보임을 입증한다.

ABSTRACT

Generative adversarial networks are a class of generative algorithms that have been widely used to produce state-of-the-art samples. In this paper, we investigate GAN to perform anomaly detection on time series dataset. In order to achieve this goal, a bibliography is made focusing on theoretical properties of GAN and GAN used for anomaly detection. A Wasserstein GAN has been chosen to learn the representation of normal data distribution and a stacked encoder with the generator performs the anomaly detection. W-GAN with encoder seems to produce state of the art anomaly detection scores on MNIST dataset and we investigate its usage on multi-variate time series.

연구 동기 및 목표

• 고차원 시간 시리즈 데이터에서 생성적 대립 신경망(GANs)을 이용한 이상 탐지의 가능성을 탐구하는 것.
• 다양한 데이터셋, 즉 2차원 다모달 분포, MNIST, 그리고 다변량 시간 시리즈에서 워샤르스키 GAN과 인코더의 성능을 평가하는 것.
• 생성자와 인코더를 이용한 재구성 오차 기반 이상 탐지와 분류 기반 GAN 구성 요소를 비교하는 것.
• 특히 원시 시간 시리즈 데이터에서 이상 탐지 성능을 향상시키는 아키텍처 및 학습 선택 사항을 규명하는 것.

제안 방법

• 정상 시간 시리즈 데이터에서 워샤르스키 GAN(W-GAN)을 학습하여 기저 데이터 분포를 학습하는 것.
• 입력 시간 시리즈를 잠재 공간으로 매핑하기 위해 스택형 인코더 네트워크를 구현하여 생성기를 통한 재구성 가능하게 하는 것.
• 원본과 재구성된 시간 시리즈 간의 평균 제곱오차(MSE)를 이상도 수치로 사용하는 것.
• 시간 시리즈를 다중 채널 이미지로 표현하기 위해 재귀 그림을 적용하여 W-GAN과 인코더의 입력으로 사용하는 것.
• 생성자와 인코더를 동시에 적대적 손실과 재구성 손실을 사용하여 공동으로 학습하는 것.
• 시험 데이터에서 정상 클래스와 이상 클래스를 포함하여 정밀도-재현율 곡선 아래 면적(AUPRC)을 사용해 성능을 평가하는 것.

실험 결과

연구 질문

• RQ1 워샤르스키 GAN과 인코더는 다변량 시간 시리즈 데이터에서 이상을 효과적으로 탐지할 수 있는가?
• RQ2 생성자와 인코더의 재구성 오차는 이상을 식별하는 데 있어 분류 기반 GAN 출력보다 어떻게 비교되는가?
• RQ3 어떤 아키텍처 선택 사항(예: 1D 컨볼루션, 배치 정규화)이 이상 탐지 성능을 향상시키는가?
• RQ4 원시 시간 시리즈 데이터와 재귀 그림과 같은 변환 표현 방식에서 모델의 성능은 어떻게 다른가?
• RQ5 잠재 공간 차원과 사전 분포가 재구성 품질과 이상 탐지 정확도에 어떤 영향을 미치는가?

주요 결과

• W-GAN과 인코더는 '누워있는' 동작을 이상으로 간주했을 때 UCI HAR 데이터셋에서 AUPRC 70%를 달성하여 이 작업에 있어 강력한 성능을 보였다.
• 생성자와 인코더의 재구성 오차는 신뢰할 수 있는 이상도 수치를 제공하였으며, 비정상 샘플은 정상 샘플보다 유의미하게 높은 오차를 보였다.
• 시간 시리즈를 다중 채널 이미지로 변환하기 위해 재귀 그림을 사용함으로써 모델이 시간 패턴을 더 잘 포착하여 이상 탐지 능력이 향상되었다.
• GAN의 판별기 구성 요소는 이상 탐지 성능이 열악하였고, 재구성 기반 탐지에 있어 생성자와 인코더가 더 효과적이었다.
• 생성자의 입력 레이어 이전에 배치 정규화를 적용함으로써 인코더 수렴이 향상되었지만, 잠재 공간 정렬에 대한 형식적 영향은 명확하지 않다.
• 특징 공학 없이 원시 시간 시리즈 입력을 그대로 사용할 경우, 비정상 클래스와 정상 클래스의 재구성 오차를 명확히 분리하지 못해 직접적인 원시 입력 처리의 한계를 보였다.