[논문 리뷰] Improving Robustness on Seasonality-Heavy Multivariate Time Series Anomaly Detection

Farzaneh Khoshnevisan, Zhewen Fan외 1명|arXiv (Cornell University)|2020. 07. 25.

Anomaly Detection Techniques and Applications참고 문헌 22인용 수 6

한 줄 요약

이 논문은 복잡한 계절성 패턴을 모델링하기 위해 컨volutional-LSTM 계층과 새로운 보정된 어텐션 메커니즘을 통합한 다변량 시계열 이상 탐지용 강건한 생성적 적대적 신경망인 RSM-GAN을 제안한다. 또한 훈련 데이터 오염을 완화하기 위해 보조 인코더를 활용하여 실제 데이터에서 정밀도가 30% 향상되었고, 합성 데이터에서는 16% 향상되었으며, 베이스라인 대비 가장 낮은 위양성 비율을 기록하였다.

ABSTRACT

Robust Anomaly Detection (AD) on time series data is a key component for monitoring many complex modern systems. These systems typically generate high-dimensional time series that can be highly noisy, seasonal, and inter-correlated. This paper explores some of the challenges in such data, and proposes a new approach that makes inroads towards increased robustness on seasonal and contaminated data, while providing a better root cause identification of anomalies. In particular, we propose the use of Robust Seasonal Multivariate Generative Adversarial Network (RSM-GAN) that extends recent advancements in GAN with the adoption of convolutional-LSTM layers and attention mechanisms to produce excellent performance on various settings. We conduct extensive experiments in which not only do this model displays more robust behavior on complex seasonality patterns, but also shows increased resistance to training data contamination. We compare it with existing classical and deep-learning AD models, and show that this architecture is associated with the lowest false positive rate and improves precision by 30% and 16% in real-world and synthetic data, respectively.

연구 동기 및 목표

• 복잡한 다중 주기 계절성과 오염된 훈련 데이터를 가진 다변량 시계열에서 이상을 탐지하는 문제를 해결하기 위해.
• 기존의 딥러닝 기반 이상 탐지 모델에서 성능 저하를 초래하는 데이터 오염과 계절성 패턴에 대한 강건성을 향상시키기 위해.
• 이상 탐지 점수 기반의 인과 추론 프레임워크를 통합하여 이상의 근본 원인을 정확하게 규명할 수 있도록 하기 위해.
• 시간적 및 공간적 종속성을 잘 포착하면서도 실제 및 합성 환경에서 낮은 위양성 비율을 유지하는 GAN 기반 아키텍처를 개발하기 위해.

제안 방법

• RSM-GAN은 다변량 시계열 데이터를 강건하게 모델링하기 위해 워샤프스키 GAN 프레임워크를 활용한 인코더-디코더-인코더 아키텍처를 채택한다.
• 다양한 시계열 채널 간 국소적이고 순차적인 종속성을 포착하기 위해 컨volutional-LSTM 계층을 통합한다.
• 반복 계층 내부에 새로운 보정된 어텐션 메커니즘을 적용하여 데이터 기반 방식으로 다중 계절성 패턴(예: 일일, 주간, 휴일 효과 등)에 동적으로 적응한다.
• 정상 데이터의 강건한 표현을 학습하기 위해 보조 인코더를 함께 훈련시켜 훈련 세트의 오염에 대한 저항력을 향상시킨다.
• 잠재 공간에서의 복원 손실 기반으로 이상 점수를 계산하며, 이상 원인 규명을 위해 인과 추론 프레임워크를 활용한다.
• 모델은 적대적 손실과 복원 손실을 사용하여 훈련되며, 학습 안정성을 확보하기 위해 기울기 페널티를 포함한 경사하강법으로 최적화된다.

실험 결과

연구 질문

• RQ1 다변량 시계열 이상 탐지에서 훈련 데이터 오염에 강건한 딥 생성 모델을 어떻게 설계할 수 있는가?
• RQ2 학습된 어텐션 메커니즘이 복잡한 다중 주기 계절성 패턴에서 탐지 성능을 얼마나 향상시킬 수 있는가?
• RQ3 보조 인코딩 기반의 GAN 아키텍처가 계절성 패턴이 뚜렷한 데이터에서 기존 최고 수준의 모델 대비 정밀도와 위양성 비율 측면에서 뛰어난 성능을 내는가?
• RQ4 제안된 인과 추론 프레임워크는 다변량 시스템에서 이상의 근본 원인 규명에 얼마나 효과적인가?

주요 결과

• RSM-GAN은 실제 암호화 키 데이터에서 기존 최고 수준의 모델 대비 정밀도가 30% 향상되었으며, 위양성 비율은 오직 0.11%에 그쳤다.
• 중간 수준의 오염이 있는 합성 데이터에서 RSM-GAN은 기준 모델 대비 정밀도가 16% 향상되었고, 위양성 비율은 0.10%로 낮게 유지되었다.
• 모델는 계절성 복잡도 증가에 걸쳐 일관된 성능을 보였으며, MSCRED와 OC-SVM는 다중 주기 계절성 하에서 성능 저하가 심각하게 발생한 반면 RSM-GAN은 뛰어난 성능을 유지했다.
• 어텐션 메커니즋试로 RSM-GAN은 휴일 기간 동안 이상을 정확히 식별했고, 기준 모델들은 계절성 조정이 부족해 이를 잘못 분류했다.
• 근본 원인 규명에서 RSM-GAN은 암호화 키 데이터셋에서 재현율 0.5093, 합성 데이터에서 0.7870을 기록하여 모든 기준 모델을 능가했다.
• RSM-GAN의 NAB 점수는 실제 데이터에서 0.2992, 합성 데이터에서 0.8986이었으며, 다른 모델의 음수 점수들과 비교해 우수한 종합 성능을 보였다.