[论文解读] Improving Robustness on Seasonality-Heavy Multivariate Time Series Anomaly Detection

Farzaneh Khoshnevisan, Zhewen Fan+1 more|arXiv (Cornell University)|Jul 25, 2020

Anomaly Detection Techniques and Applications参考文献 22被引用 6

一句话总结

该论文提出RSM-GAN，一种用于多变量时间序列异常检测的鲁棒生成对抗网络，通过集成卷积-LSTM层和一种新颖的平滑注意力机制，以建模复杂的季节性模式。该方法还采用辅助编码器以减轻训练数据污染，实现在真实世界数据上精确率提升30%，在合成数据上精确率提升16%，且在基线模型中具有最低的误报率。

ABSTRACT

Robust Anomaly Detection (AD) on time series data is a key component for monitoring many complex modern systems. These systems typically generate high-dimensional time series that can be highly noisy, seasonal, and inter-correlated. This paper explores some of the challenges in such data, and proposes a new approach that makes inroads towards increased robustness on seasonal and contaminated data, while providing a better root cause identification of anomalies. In particular, we propose the use of Robust Seasonal Multivariate Generative Adversarial Network (RSM-GAN) that extends recent advancements in GAN with the adoption of convolutional-LSTM layers and attention mechanisms to produce excellent performance on various settings. We conduct extensive experiments in which not only do this model displays more robust behavior on complex seasonality patterns, but also shows increased resistance to training data contamination. We compare it with existing classical and deep-learning AD models, and show that this architecture is associated with the lowest false positive rate and improves precision by 30% and 16% in real-world and synthetic data, respectively.

研究动机与目标

• 解决在具有复杂多周期季节性特征且训练数据被污染的多变量时间序列中检测异常的挑战。
• 提升对数据污染和季节性模式的鲁棒性，以应对现有基于深度学习的异常检测模型在这些因素下性能下降的问题。
• 通过与异常评分机制集成的因果推断框架，实现对异常根因的精确识别。
• 开发一种能够捕捉时间与空间依赖关系，同时在真实世界和合成场景下保持低误报率的GAN架构。

提出的方法

• RSM-GAN采用编码器-解码器-编码器架构，并基于Wasserstein GAN框架，以鲁棒地建模多变量时间序列数据。
• 通过集成卷积-LSTM层，捕捉多条时间序列通道之间的局部与序列依赖关系。
• 在循环层中应用一种新颖的平滑注意力机制，以数据驱动方式动态适应多种季节性模式（如每日、每周、节假日效应）。
• 通过联合训练一个辅助编码器，学习正常数据的鲁棒表征，从而提升对训练集中污染数据的鲁棒性。
• 基于潜在空间中的重构损失计算异常分数，并利用因果推断框架识别检测到异常的根因。
• 模型通过对抗损失和重构损失进行训练，采用梯度下降法优化，并引入梯度惩罚以增强训练稳定性。

实验结果

研究问题

• RQ1 如何使深度生成模型在多变量时间序列异常检测中对训练数据污染具备更强鲁棒性？
• RQ2 学习到的注意力机制在复杂多周期季节性模式上的检测性能可提升到何种程度？
• RQ3 基于GAN的架构结合辅助编码是否能在具有强季节性特征的数据上，超越现有最先进模型在精确率和误报率方面的表现？
• RQ4 所提出的因果推断框架在多变量系统中识别异常根因方面的有效性如何？

主要发现

• 在真实世界加密密钥数据上，RSM-GAN相较于最先进模型实现了30%的精确率提升，误报率仅为0.11%。
• 在中等污染程度的合成数据上，RSM-GAN相比基线模型精确率提升16%，同时保持0.10%的低FPR。
• 该模型在季节性复杂度不断提高的情况下表现出一致的性能，优于MSCRED和OC-SVM，后者在多周期季节性下性能显著下降。
• 注意力机制使RSM-GAN能够正确识别节假日期间的异常，而基线模型因缺乏季节性调整而错误分类。
• 在根因识别方面，RSM-GAN在加密密钥数据集上的召回率达到0.5093，在合成数据上的召回率达到0.7870，优于所有基线模型。
• 在真实世界数据上，RSM-GAN的NAB得分为0.2992，在合成数据上为0.8986，表明其整体性能显著优于其他模型的负分表现。