[논문 리뷰] ImDiffusion: Imputed Diffusion Models for Multivariate Time Series Anomaly Detection

Yuhang Chen, Chaoyun Zhang외 8명|arXiv (Cornell University)|2023. 07. 03.

Anomaly Detection Techniques and Applications인용 수 6

한 줄 요약

ImDiffusion는 다변량 시계열에서 복잡한 시간적 및 상관 변수 의존성을 모델링하기 위해 시계열 보정과 확산 모델을 결합하여 새로운 이상 탐지 프레임워크를 제안한다. 확산 기반 보정기에서 다단계 노이즈 제거 출력을 이상 신호로 활용함으로써, 마이크로소프트의 생산 환경에서 F1 점수를 11.4% 향상시켜 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Anomaly detection in multivariate time series data is of paramount importance for ensuring the efficient operation of large-scale systems across diverse domains. However, accurately detecting anomalies in such data poses significant challenges. Existing approaches, including forecasting and reconstruction-based methods, struggle to address these challenges effectively. To overcome these limitations, we propose a novel anomaly detection framework named ImDiffusion, which combines time series imputation and diffusion models to achieve accurate and robust anomaly detection. The imputation-based approach employed by ImDiffusion leverages the information from neighboring values in the time series, enabling precise modeling of temporal and inter-correlated dependencies, reducing uncertainty in the data, thereby enhancing the robustness of the anomaly detection process. ImDiffusion further leverages diffusion models as time series imputers to accurately capturing complex dependencies. We leverage the step-by-step denoised outputs generated during the inference process to serve as valuable signals for anomaly prediction, resulting in improved accuracy and robustness of the detection process. We evaluate the performance of ImDiffusion via extensive experiments on benchmark datasets. The results demonstrate that our proposed framework significantly outperforms state-of-the-art approaches in terms of detection accuracy and timeliness. ImDiffusion is further integrated into the real production system in Microsoft and observe a remarkable 11.4% increase in detection F1 score compared to the legacy approach. To the best of our knowledge, ImDiffusion represents a pioneering approach that combines imputation-based techniques with time series anomaly detection, while introducing the novel use of diffusion models to the field.

연구 동기 및 목표

• 강한 시간적 및 상관 변수 상관관계를 가지는 고차원의 복잡한 다변량 시계열에서 이상을 정확하게 탐지하는 데 도전한다.
• 실제 시스템에서의 불확실성과 복잡한 의존성을 다루기 어려운 기존 예측 및 재구성 기반 방법의 한계를 극복한다.
• 데이터 불확실성을 줄이고 이상 탐지의 강건성을 향상시키기 위해 보정을 활용하는 자기지도 학습 프레임워크를 도입한다.
• 확산 모델의 노이즈 제거 과정을 이용해 이상 신호를 추출하기 위해 시계열 보정에 대한 확산 모델의 새로운 응용을 탐색한다.
• 특히 대규모 분산 환경에서 실시간 생산 시스템에서 높은 탐지 정확도와 즉시성을 달성한다.

제안 방법

• 시간적 및 상관 변수 의존성을 유지하면서, 시계열 보정을 수행하기 위해 격자 무늬 마스킹 전략과 확산 모델을 통합한다.
• 추론 중 확산 모델의 다단계 노이즈 제거 출력을 이상 신호의 원천으로 사용하여 예측의 점진적 정밀도 향상을 가능하게 한다.
• 노이즈 제거 궤적 기반의 앙상블 투표 메커니즘을 구성하여 탐지의 강건성과 정확도를 향상시킨다.
• 상관 변수 관계를 모델링하기 위해 별도의 공간적 트랜스포머와 시간적 동역학을 모델링하기 위해 별도의 시간적 트랜스포머를 사용하여 표현 학습을 향상시킨다.
• 라벨이 부여된 이상 데이터에 의존하지 않고, 마스킹된 시계열 데이터에 대한 재구성 손실을 사용하여 자기지도 학습 방식으로 모델을 훈련시킨다.
• 확산 모델의 확률적 성격을 활용하여 실제 시계열의 내재된 변동성과 불확실성을 더 잘 포착한다.

실험 결과

연구 질문

• RQ1 확산 모델은 다변량 시계열의 이상 탐지 성능 향상을 위해 시계열 보정에 효과적으로 적용될 수 있는가?
• RQ2 보정 기반 자기지도 학습이 이상 탐지에서 복잡한 시간적 및 상관 변수 의존성을 모델링하는 데 어떻게 기여하는가?
• RQ3 확산 모델의 다단계 노이즈 제거 출력이 이상 예측에 신뢰할 수 있는 신호로 얼마나 유용한가?
• RQ4 공간적 및 시간적 어텐션 메커니즘이 실제 MTS 데이터에서 탐지 성능 향상에 어떻게 기여하는가?
• RQ5 생산 환경에서 최신 기술 수준의 기준 대비 보다 뛰어난 탐지 정확도와 즉시성을 달성할 수 있는가?

주요 결과

• ImDiffusion는 마이크로소프트의 생산 이메일 배달 시스템에서 기존 딥러닝 기반 이상 탐지기 대비 F1 점수를 11.4% 향상시켰다.
• R-AUC-PR은 14.4% 향상되었고, 평균 탐지 지연 시간(Average Detection Delay, ADD)은 30.2% 감소하여 사건 탐지가 더 빠르고 신뢰할 수 있게 되었다.
• 광범위한 아블레이션 연구 결과, 공간적 및 시간적 트랜스포머 모두가 핵심적임을 확인하였으며, SMD 데이터셋에서 둘 중 하나를 제거할 경우 성능 저하가 가장 심각하게 나타났다.
• 보정을 위한 확산 모델의 사용은 확률적이고 복잡한 의존성을 더 잘 모델링하여, 기존의 재구성 및 예측 기반 기준 대비 뛰어난 성능을 보였다.
• 다단계 노이즈 제거 출력 기반의 앙상블 투표 메커니즘은 특히 변동성이 높은 환경에서 탐지의 강건성과 정확도를 향상시켰다.
• 각 데이터 포인트에 대해 다중 추론이 필요하지만, ImDiffusion는 높은 온라인 효율성을 유지하며, 초당 5.8개의 데이터 포인트를 처리하여 생산 환경에서 30초 지연 샘플링에 충분한 성능을 확보했다.