[論文レビュー] Multivariate Time-series Anomaly Detection via Graph Attention Network

Hang Zhao, Yujing Wang+8 more|arXiv (Cornell University)|Sep 4, 2020

Anomaly Detection Techniques and Applications参考文献 25被引用数 30

ひとこと要約

MTAD-GATは、マルチ変量時系列における特徴間および時系列依存性を明示的にモデリングするためのデュアルグラフ注意層を導入し、予測と再構成の目的を共同最適化して異常検知を行う。

ABSTRACT

Anomaly detection on multivariate time-series is of great importance in both data mining research and industrial applications. Recent approaches have achieved significant progress in this topic, but there is remaining limitations. One major limitation is that they do not capture the relationships between different time-series explicitly, resulting in inevitable false alarms. In this paper, we propose a novel self-supervised framework for multivariate time-series anomaly detection to address this issue. Our framework considers each univariate time-series as an individual feature and includes two graph attention layers in parallel to learn the complex dependencies of multivariate time-series in both temporal and feature dimensions. In addition, our approach jointly optimizes a forecasting-based model and are construction-based model, obtaining better time-series representations through a combination of single-timestamp prediction and reconstruction of the entire time-series. We demonstrate the efficacy of our model through extensive experiments. The proposed method outperforms other state-of-the-art models on three real-world datasets. Further analysis shows that our method has good interpretability and is useful for anomaly diagnosis.

研究の動機と目的

• マルチ変量時系列の異常検出において、特徴間の相関を捉える必要性を喚起する。
• 二つの並列グラフ注意層で特徴と時系列の依存性をモデル化する自己教師ありフレームワークを提案する。
• 予測ベースのモデルと再構成ベースのモデルを共同最適化して表現を強化する。
• 異常診断と原因分析のための解釈可能な注意機構に基づく洞察を提供する。

提案手法

• 各時系列特徴を特徴指向のGAT層の完全グラフのノードとして表現する。
• スライディングウィンドウ内の各時刻を時系列指向のGAT層の完全グラフのノードとして表現する。
• GATの出力を1-D畳み込みとGRUと組み合わせ、局所的および長距離の時系列パターンを捉える。
• Loss = Loss_for + Loss_recで、予測ベースのモデル（次-step予測）と再構成ベースのモデル（VAE）を共同最適化する。
• 予測誤差と再構成確率を組み合わせて時刻ごとの推定スコアを算出し、Peak Over Threshold (POT) によって異常を検出する。
• 潜在的な根本原因を特定するため、特徴レベルのスコアをランキングして異常診断を提供する。

実験結果

リサーチクエスチョン

• RQ1 グラフ注意による特徴間相関の明示的モデリングは、ベースラインより多変量異常検知を改善できるか？
• RQ2 予測ベースと再構成ベースの目的を組み合わせると、表現と検出性能が向上するか？
• RQ3 2つのGAT層（特徴指向と時系列指向）は、検出精度と解釈性にどう寄与するか？
• RQ4 実世界の多様なデータセットとシナリオ（リアルタイム遅延を含む）で手法は有効か？
• RQ5 根本原因となる特徴を特定して、有意義な異常診断を提供できるか？

主な発見

Method	SMAP Precision	SMAP Recall	SMAP F1	MSL Precision	MSL Recall	MSL F1	TSA Precision	TSA Recall	TSA F1
OmniAnomaly	0.7416	0.9776	0.8434	0.8867	0.9117	0.8989	0.7028	0.8039	0.7499
KitNet	0.7725	0.8327	0.8014	0.6312	0.7936	0.7031	0.5579	0.8012	0.6577
GAN-Li	0.6710	0.8706	0.7579	0.7102	0.8706	0.7823	0.5302	0.7551	0.6229
MAD-GAN	0.8049	0.8214	0.8131	0.8517	0.8991	0.8747	0.5510	0.8284	0.6620
LSTM-VAE	0.8551	0.6366	0.7298	0.5257	0.9546	0.6780	0.6970	0.7736	0.7333
LSTM-NDT	0.8965	0.8846	0.8905	0.5934	0.5374	0.5640	0.5833	0.7232	0.6457
DAGMM	0.5845	0.9058	0.7105	0.5412	0.9934	0.7007	0.5351	0.8845	0.6668
MTAD-GAT	0.8906	0.9123	0.9013	0.8754	0.9440	0.9084	0.6951	0.9352	0.7975

• MTAD-GATは、3つのデータセット（SMAP、MSL、TSA）でベースラインと比較して最先端のF1スコアを達成します。
• 特徴指向のGAT層と時系列指向のGAT層はそれぞれ性能に寄与し、いずれかを除去すると顕著な効果が失われる。
• 予測と再構成モデルの共同最適化は、いずれか一方の目的のみを用いるよりも良い異常検知をもたらす。
• MTAD-GATはTSAで最良のベースラインを最大9%上回るF1を達成し、遅延やシナリオの頑健性を示す。
• モデルは解釈可能な注意パターンと、特徴別スコアをランキングすることで効果的な異常診断を提供する。