[논문 리뷰] Memory-augmented Adversarial Autoencoders for Multivariate Time-series Anomaly Detection with Deep Reconstruction and Prediction

Qinfeng Xiao, Shikuan Shao외 1명|arXiv (Cornell University)|2021. 10. 15.

Anomaly Detection Techniques and Applications참고 문헌 45인용 수 7

한 줄 요약

이 논문은 정상 패턴 유지 및 이중 예측-재구성 학습 목표를 결합한 적대적 autoencoder와 메모리 모듈을 통합한 새로운 비지도 다변량 시계열 이상 탐지 모델인 MemAAE를 제안한다. 재구성과 이중 예측을 동시에 최적화하면서 메모리 백에서 유일하게 정상 패턴만을 고려하도록 제약을 둠으로써, MemAAE는 네 개의 공개 데이터셋에서 F1 스코어 0.90을 달성하여 최신 기준 모델보다 0.02 높게 성능을 냈다.

ABSTRACT

Detecting anomalies for multivariate time-series without manual supervision continues a challenging problem due to the increased scale of dimensions and complexity of today's IT monitoring systems. Recent progress of unsupervised time-series anomaly detection mainly use deep autoencoders to solve this problem, i.e. training on normal samples and producing significant reconstruction error on abnormal inputs. However, in practice, autoencoders can reconstruct anomalies so well, due to powerful capabilites of neural networks. Besides, these approaches can be ineffective for identifying non-point anomalies, e.g. contextual anomalies and collective anomalies, since they solely utilze a point-wise reconstruction objective. To tackle the above issues, we propose MemAAE ( extit{Memory-augmented Adversarial Autoencoders with Deep Reconstruction and Prediction}), a novel unsupervised anomaly detection method for time-series. By jointly training two complementary proxy tasks, reconstruction and prediction, with a shared network architecture, we show that detecting anomalies via multiple tasks obtains superior performance rather than single-task training. Additionally, a compressive memory module is introduced to preserve normal patterns, avoiding unexpected generalization on abnormal inputs. Through extensive experiments, MemAAE achieves an overall F1 score of 0.90 on four public datasets, significantly outperforming the best baseline by 0.02.

연구 동기 및 목표

• 복잡하고 고차원적인 모니터링 시스템에서 비지도 다변량 시계열 이상 탐지의 과제를 해결한다.
• 점별 재구성 오차 손실에 의존하는 표준 autoencoder가 문맥적 및 집합적 이상을 탐지하지 못하는 한계를 극복한다.
• 학습 데이터에 이상 패턴이 포함된 경우에도 이상 샘플에 대한 과도한 일반화를 완화한다.
• 시간적 맥락을 활용하는 보완적인 예측 작업을 도입하여 局소적 및 문맥적 이상 탐지를 향상시킨다.
• 압축된 메모리 모듈을 통해 정상 다양체를 명시적으로 인코딩하여 강건성과 정상성 모델링을 향상시킨다.

제안 방법

• 정상 시계열 패턴의 강건하고 분리된 표현을 학습하기 위해 재구성 목표를 가진 적대적 autoencoder(AAE)를 사용한다.
• 미래 및 과거 시점의 시계열을 예측하는 양방향 예측 헤드를 도입하여 국소적 및 문맥적 이상에 대한 민감도를 향상시킨다.
• 학습된 정상 패턴을 벡터 사전으로 저장하는 메모리 모듈을 구현하여 재구성을 오직 이러한 정상 벡터의 선형 조합으로만 제약한다.
• 에ncoder에서 메모리 슬롯에 대한 주의 가중치를 계산하기 위해 미분 가능한 주의 메커니즘을 사용하여 재구성에 적합한 정상 패atters를 동적으로 선택한다.
• 재구성 오차, 예측 오차, 적대적 오차를 조합한 다중 작업 손실을 사용하여 모델을 공동으로 학습함으로써 표현 품질을 향상시킨다.
• 정상 샘플에서 새로운 인코딩된 특징으로 오래되거나 덜 대표적인 메모리 벡터를 주기적으로 교체하는 메모리 업데이트 메커니즘을 적용하여, 압축되고 최신화된 정상성 모델을 유지한다.

실험 결과

연구 질문

• RQ1 단일 작업 재구성 전용 모델에 비해 재구성과 예측 작업을 함께 학습함으로써 문맥적 및 집합적 이상 탐지 성능이 향상되는가?
• RQ2 정상 다양체를 명시적으로 인코딩하는 메모리 모듈이 이상 패턴에 대한 과적합을 줄이고, 새로운 이상 패턴에 대한 일반화 성능을 향상시키는가?
• RQ3 이중 예측이 값의 변화가 크지 않지만 시간적 패턴을 교란하는 국소적 이상 탐지에 어떻게 기여하는가?
• RQ4 예측 단계 수, 메모리 크기, 예측 가중치와 같은 하이퍼파rameter의 설정이 다양한 데이터셋에서 모델 성능에 미치는 영향은 무엇인가?
• RQ5 완전히 비지도 학습 환경에서 이상 패턴이 포함된 데이터로 인한 성능 저하를 메모리 보강 설계가 얼마나 효과적으로 완화하는가?

주요 결과

• MemAAE는 네 개의 공개 다변량 시계열 데이터셋에서 전체적으로 F1 스코어 0.90을 달성하여 최고의 베이스라인보다 0.02 높은 성능을 보였다.
• 제거 실험 결과, 메모리 모듈이나 예측 모듈을 제거할 경우 성능 저하가 심각하게 발생하여 두 구성 요소가 핵심적인 역할을 한다는 점을 확인했다.
• 메모리 모듈은 이상 샘플의 재구성을 방지함으로써 잠재적으로 잘못된 음성 결과를 줄여 false negative를 감소시켰다.
• 예측 모듈은 재구성 오차만으로는 쉽게 포착되지 않는 국소적 및 문맥적 이상 탐지를 향상시켰으며, 특히 SMAP 및 SWaT 데이터셋에서 두드러졌다.
• 일부 데이터셋(SMAP 및 SWaT)에서는 예측 가중치 설정에 민감하게 반응하여, 경험적 하이퍼파rameter 튜닝의 필요성을 시사했다.
• 최적의 메모리 크기는 데이터셋에 따라 달라지며, 과도한 메모리 크기는 성능 저하를 초래할 수 있다(ex: SWaT에서 관찰됨), 이는 커버리지와 표현 정밀도 사이의 상충 관계를 시사한다.