[논문 리뷰] Autoencoders and Generative Adversarial Networks for Anomaly Detection for Sequences.

Stephanie Ger, Diego Klabjan|arXiv (Cornell University)|2019. 01. 08.

Anomaly Detection Techniques and Applications참고 문헌 17인용 수 9

한 줄 요약

이 논문은 다중 특성 시계열 데이터에서 이상 탐지에 대해 구조를 유지하는 합성 시퀀스를 생성하기 위해 오토에인코드어와 생성적 적대 신경망(GANs)을 사용하는 것을 제안한다. 오토에인코드어와 GANs를 통해 소수의 이상 클래스에 대해 합성 오버샘플링을 적용하고, GANs를 사용하여 다수 클래스의 분포를 모델링하여 신규성 탐지 기능을 강화함으로써, 다양한 시퀀스 데이터셋에서 하류 분류 성능이 크게 향상된다.

ABSTRACT

We introduce synthetic oversampling in anomaly detection for multi-feature sequence datasets based on autoencoders and generative adversarial networks. The first approach considers the use of an autoencoder in conjunction with standard oversampling methods to generate synthetic data that captures the sequential nature of the data. A different model uses generative adversarial networks to generate structure preserving synthetic data for the minority class. We also use generative adversarial networks on the majority class as an outlier detection method for novelty detection. We show that the use of generative adversarial network based synthetic data improves classification model performance on a variety of sequence data sets.

연구 동기 및 목표

• 소수의 이상 클래스 시퀀스를 합성하여 다중 특성 시퀀스 이상 탐지에서의 클래스 불균형 문제를 해결하기 위해.
• 합성 시퀀스 생성 과정에서 시간적 및 구조적 관계를 유지하여 모델의 일반화 능력을 향상시키기 위해.
• 소수 및 다수 클래스의 시퀀스를 GAN 기반으로 생성하여 이상 탐지 성능을 향상시키기 위해.
• GAN 및 오토에인코드어 기반 합성 데이터가 시퀀스 기반 이상 탐지에서 분류 성능에 미치는 영향을 평가하기 위해.
• 시퀀스 무결성을 유지하면서 확장 가능한 생성 기반 데이터 증강 방법을 제공하여 이상 탐지에 활용하기 위해.

제안 방법

• 전체 시퀀스 데이터에 대해 오토에인코드어를 훈련시어 입력 시퀀스의 압축되고 의미 있는 표현을 학습한다.
• 훈련된 오토에인코드어의 잠재 공간에 표준 오버샘플링 기법을 적용하여 합성 소수 클래스 시퀀스를 생성한다.
• 기존 데이터의 구조적 및 순차적 특성을 유지하는 합성 시퀀스를 생성하기 위해 조건부 GAN을 훈련시킨다.
• GAN을 사용하여 소수 클래스의 합성 데이터를 생성함으로써 생성된 시퀀스가 의미적으로도 시간적으로도 일관성을 유지하도록 보장한다.
• 다수 클래스의 분포를 학습하기 위해 별도의 GAN을 훈련시켜, 학습된 분포에서 크게 벗어난 샘플을 식별함으로써 신규성 탐지 기능을 가능하게 한다.
• 두 방법에서 생성된 합성 시퀀스를 사용하여 훈련 세트를 증강하고, 하류 분류 모델의 성능을 향상시킨다.

실험 결과

연구 질문

• RQ1 오토에인코드어 기반 잠재 공간 오버샘플링이 불균형 시퀀스 데이터셋에서 이상 탐지 성능을 향상시킬 수 있는가?
• RQ2 GAN으로 생성된 합성 시퀀스가 실제 데이터의 구조적 및 순차적 특성을 어느 정도 유지하는가?
• RQ3 다수 클래스를 GAN으로 모델링하면 신규성 탐지 능력이 향상되는가?
• RQ4 시퀀스 이상 탐지에서 GAN 기반 합성 데이터 증강이 전통적 오버샘플링 기법보다 어떻게 비교되는가?
• RQ5 생성 모델이 소수 이상 클래스의 데이터 부족 문제를 효과적으로 해결하면서도 시퀀스의 무결성을 유지할 수 있는가?

주요 결과

• GAN 기반 합성 데이터 생성의 활용은 다양한 시퀀스 데이터셋에서 분류 모델의 성능을 크게 향상시킨다.
• GAN을 통해 생성된 합성 시퀀스는 실제 데이터의 구조적 및 순차적 특성을 유지하여 더 나은 일반화를 가능하게 한다.
• 잠재 공간에서 오토에인코드어 기반 오버샘플링은 기준 방법 대비 이상 시퀀스 탐지 성능을 향상시킨다.
• 다수 클래스를 GAN으로 모델링함으로써 학습된 분포에서 벗어난 샘플을 식별함으로써 효과적인 신규성 탐지가 가능해진다.
• 오토에인코드어와 GAN 기반 데이터 증강의 조합은 기존 오버샘플링 기법 대비 시퀀스 이상 탐지 과제에서 뛰어난 성능을 보인다.
• 제안된 방법은 다양한 시퀀스 데이터셋에서 일관된 성능 향상을 보이며, 이는 강건성과 확장성의 잠재력을 시사한다.