[论文解读] StackVAE-G: An efficient and interpretable model for time series anomaly detection

Wenkai Li, Wenbo Hu+3 more|arXiv (Cornell University)|May 18, 2021

Anomaly Detection Techniques and Applications参考文献 27被引用 4

一句话总结

该论文提出了一种新型变分自编码器 StackVAE-G，结合图神经网络，实现高效且可解释的多变量时间序列异常检测。通过采用参数共享的分块重建与可学习的稀疏图结构，该模型在保持高检测精度的同时降低计算成本，并通过学习到的通道间关联关系实现可解释的故障诊断。

ABSTRACT

Recent studies have shown that autoencoder-based models can achieve superior performance on anomaly detection tasks due to their excellent ability to fit complex data in an unsupervised manner. In this work, we propose a novel autoencoder-based model, named StackVAE-G that can significantly bring the efficiency and interpretability to multivariate time series anomaly detection. Specifically, we utilize the similarities across the time series channels by the stacking block-wise reconstruction with a weight-sharing scheme to reduce the size of learned models and also relieve the overfitting to unknown noises in the training data. We also leverage a graph learning module to learn a sparse adjacency matrix to explicitly capture the stable interrelation structure among multiple time series channels for the interpretable pattern reconstruction of interrelated channels. Combining these two modules, we introduce the stacking block-wise VAE (variational autoencoder) with GNN (graph neural network) model for multivariate time series anomaly detection. We conduct extensive experiments on three commonly used public datasets, showing that our model achieves comparable (even better) performance with the state-of-the-art modelsand meanwhile requires much less computation and memory cost. Furthermore, we demonstrate that the adjacency matrix learned by our model accurately captures the interrelation among multiple channels, and can provide valuable information for failure diagnosis applications.

研究动机与目标

• 解决现有基于自编码器的多变量时间序列异常检测模型在效率和可解释性方面的不足。
• 通过在分块重建中引入参数共享，利用通道间的相似性降低模型复杂度并缓解过拟合。
• 捕捉时间序列通道间的稳定关联结构，以提升重建精度并支持故障诊断。
• 开发一种内存与计算效率高的模型，适用于边缘设备等资源受限环境。
• 通过学习有意义的稀疏邻接矩阵，实现可解释的异常诊断。

提出的方法

• 采用变分自编码器（VAEs）构建堆叠式分块重建框架，实现在单次前向传播中对多个时间步进行重建。
• 在时间块之间应用参数共享，以减少模型参数量并缓解训练数据中噪声引起的过拟合。
• 集成图神经网络（GNN）模块，用于学习表示时间序列通道间稳定关联关系的稀疏邻接矩阵。
• 引入图学习损失函数（L_Graph），引导 GNN 从数据中学习有意义且可解释的图结构。
• 通过重建损失与图学习损失联合训练端到端模型，同时优化重建质量与结构一致性。
• 利用学习到的邻接矩阵识别每个时间序列的邻近通道，实现可解释的异常诊断。

实验结果

研究问题

• RQ1 采用参数共享的分块重建是否能在不牺牲异常检测性能的前提下降低模型复杂度并提升效率？
• RQ2 可学习的稀疏图结构是否能有效捕捉多变量时间序列通道间的稳定关联关系，从而提升重建性能与可解释性？
• RQ3 图学习损失的引入是否使邻接矩阵比无监督或预训练图方法更具可解释性与准确性？
• RQ4 在标准基准数据集上，StackVAE-G 在检测性能、推理成本与内存使用方面与最先进模型相比如何？
• RQ5 学习到的图结构是否能通过区分单通道传感器故障与多通道系统性故障，支持有意义的故障诊断？

主要发现

• StackVAE-G 在 SMD、SMAP 和 MSL 三个基准数据集上达到最先进或相当的异常检测性能，多个子集的 F1 分数更高。
• 与现有基于自编码器的模型相比，该模型显著降低了计算与内存开销，适用于边缘设备部署。
• 图学习损失对于学习有意义且可解释的邻接矩阵至关重要；若无该损失，模型无法捕捉真实的通道关系。
• 通过可视化检查与消融实验验证，学习到的邻接矩阵准确反映了通道间的真实关联结构。
• 该模型支持可解释的故障诊断：当多个邻近通道同时异常时检测到系统性异常，而仅单个通道异常时则识别为传感器故障。
• 消融研究证实，若移除图学习损失，图结构将变得不可解释，证明所提出的损失函数对可靠结构学习的必要性。