[论文解读] Multivariate Time-series Anomaly Detection via Graph Attention Network

Hang Zhao, Yujing Wang+8 more|arXiv (Cornell University)|Sep 4, 2020

Anomaly Detection Techniques and Applications参考文献 25被引用 30

一句话总结

MTAD-GAT 引入 dual 图注意力层，以显式建模多变量时间序列中的特征间与时间依赖性，联合优化预测与重构目标以用于异常检测。

ABSTRACT

Anomaly detection on multivariate time-series is of great importance in both data mining research and industrial applications. Recent approaches have achieved significant progress in this topic, but there is remaining limitations. One major limitation is that they do not capture the relationships between different time-series explicitly, resulting in inevitable false alarms. In this paper, we propose a novel self-supervised framework for multivariate time-series anomaly detection to address this issue. Our framework considers each univariate time-series as an individual feature and includes two graph attention layers in parallel to learn the complex dependencies of multivariate time-series in both temporal and feature dimensions. In addition, our approach jointly optimizes a forecasting-based model and are construction-based model, obtaining better time-series representations through a combination of single-timestamp prediction and reconstruction of the entire time-series. We demonstrate the efficacy of our model through extensive experiments. The proposed method outperforms other state-of-the-art models on three real-world datasets. Further analysis shows that our method has good interpretability and is useful for anomaly diagnosis.

研究动机与目标

• 感知在多变量时间序列异常检测中捕捉跨特征相关性的需求.
• 提出一个自监督框架，使用两个并行的图注意力层来建模特征和时间依赖性。
• 通过同时优化预测模型和重构模型来增强表示能力。
• 通过基于注意力的可解释性洞察，为异常诊断和根因分析提供可解释的见解。

提出的方法

• 将每个时间序列特征表示为一个节点，在特征导向的 GAT 层中形成一个完全连通图。
• 在滑动窗口内将每个时间戳表示为一个节点，在时间导向的 GAT 层中形成一个完全连通图。
• 将 GAT 输出与 1-D 卷积和 GRU 相结合，以捕捉局部和远程时间模式。
• 联合优化一个预测为基础的模型（下一个步预测）和一个重构为基础的模型（VAE），Loss = Loss_for + Loss_rec。
• 通过将预测误差与重构概率结合，计算每个时间戳的推断分数，然后通过峰值超阈值（POT）检测异常。
• 通过对特征层面的分数排序，提供异常诊断以识别潜在的根本原因。

实验结果

研究问题

• RQ1 通过图注意力显式建模特征间相关性，是否能在多变量异常检测中优于基线？
• RQ2 将预测为基础和重构为基础的目标结合，是否能获得更好的表示与检测性能？
• RQ3 两种 GAT 层（特征导向与时间导向）如何促进检测准确性与可解释性？
• RQ4 方法在各种真实世界数据集和情景中是否有效，包括实时延迟的情况？
• RQ5 模型是否能通过识别根本原因特征提供有意义的异常诊断？

主要发现

• MTAD-GAT 在三个数据集（SMAP、MSL、TSA）上相比基线实现了最先进的 F1 分数。
• 特征导向的 GAT 层和时间导向的 GAT 层各自对性能有贡献，在移除任一层时均有显著提升。
• 对预测与重构模型的联合优化比单独使用任一目标时有更好的异常检测效果。
• MTAD-GAT 在 TSA 上比最佳基线的 F1 提高最多 9%，且对延迟和场景具有鲁棒性。
• 该模型通过对特征层级分数的排序提供可解释的注意力模式和有效的异常诊断。