[論文レビュー] Multivariate Time Series Anomaly Detection via Dynamic Graph Forecasting

Katrina Chen, Mingbin Feng+1 more|arXiv (Cornell University)|Feb 4, 2023

Anomaly Detection Techniques and Applications被引用数 9

ひとこと要約

DyGraphAD は動的 inter-series グラフと将来値を共同予測することでマルチ変量時系列の異常を検出する。発展するグラフ構造を活用して検出精度を向上させる。

ABSTRACT

Anomalies in univariate time series often refer to abnormal values and deviations from the temporal patterns from majority of historical observations. In multivariate time series, anomalies also refer to abnormal changes in the inter-series relationship, such as correlation, over time. Existing studies have been able to model such inter-series relationships through graph neural networks. However, most works settle on learning a static graph globally or within a context window to assist a time series forecasting task or a reconstruction task, whose objective is not tailored to explicitly detect the abnormal relationship. Some other works detect anomalies based on reconstructing or forecasting a list of inter-series graphs, which inadvertently weakens their power to capture temporal patterns within the data due to the discrete nature of graphs. In this study, we propose DyGraphAD, a multivariate time series anomaly detection framework based upon a list of dynamic inter-series graphs. The core idea is to detect anomalies based on the deviation of inter-series relationships and intra-series temporal patterns from normal to anomalous states, by leveraging the evolving nature of the graphs in order to assist a graph forecasting task and a time series forecasting task simultaneously. Our numerical experiments on real-world datasets demonstrate that DyGraphAD has superior performance than baseline anomaly detection approaches.

研究の動機と目的

• 高次元のマルチ変量時系列における異常検知を、進化する系列間の関係を捉えることで robust にする。
• 系列間の動的グラフを共同で予測するダイナミックグラフベースのフレームワークを提案する。
• グラフ予測と時系列予測を組み合わせることで異常検知性能が向上することを示す。
• 実世界の産業ベンチマークで最先端の結果を示すために評価する。

提案手法

• DTW に基づく類似度を用いて時系列ウィンドウ間の動的相関グラフを構築する。
• 短期ダイナミクスと長期の静的グラフを組み合わせたグラフエンコーダでグラフをエンコードする。
• グラフ履歴を Transformer ベースのエンコードで扱い、最新のグラフをグラフ予測モジュールで予測する。
• グラフに配慮した表現を統合した TS 予測モジュールで次の時系列値を予測する。
• 次時点の TS 予測誤差とグラフ予測誤差を組み合わせた損失で共同学習する。
• TS とグラフの予測誤差を harmonic-mean で結合し、各時刻の異常スコアを算出する。

実験結果

リサーチクエスチョン

• RQ1 進化する系列間の関係をどのように活用してマルチ変量時系列の異常を検出できるか。
• RQ2 動的グラフと時系列を jointly 予測することは、静的グラフや単一タスクのベースラインより異常検知性能を改善するか。
• RQ3 短期グラフダイナミクスと長期関係の寄与は検出精度にどのように影響するか。
• RQ4 半教師付きフレームワーク（正常データのみの訓練）で、動的グラフ表現を用いて効果的に異常を検知できるか。

主な発見

Model	SWaT F1	SWaT Pre	SWaT Rec	WADI F1	WADI Pre	WADI Rec	SMAP F1	SMAP Pre	SMAP Rec	MSL F1	MSL Pre	MSL Rec	SMD F1	SMD Pre	SMD Rec
DyGraphAD	92.31	94.29	90.42	85.38	84.13	86.66	94.94	93.39	96.55	95.92	97.01	94.86	96.55	95.14	98.19
DyGraphAD(Graph)	89.57	83.80	87.49	71.54	72.92	70.21	92.31	91.64	92.98	94.62	94.91	94.34	94.84	94.08	96.16
(Graph) recent graph only	87.31	69.49	85.10	84.34	74.16	97.76	89.89	88.67	91.17	88.57	83.34	94.49	??	??	??
(Graph) wo. recent graph	88.58	78.19	87.04	91.38	85.55	98.07	94.43	93.44	95.43	96.11	93.80	98.71	??	??	??
(Graph) wo. recent&static graph	86.90	71.82	86.59	89.89	88.67	91.17	88.57	83.34	94.49	??	??	??	??	??

• DyGraphAD は複数の実データセットでベースラインより高い F1 スコアを達成し、異常検知の有効性を示す。
• グラフ予測と時系列予測の共同最適化は、いずれかを単独で最適化するよりも性能が向上する。
• 短期の進化するグラフと静的長期グラフを組み合わせることで、瞬時的な関係と持続的関係の両方を捉えることができる。
• グラフ予測誤差と時系列予測誤差の調和平均は頑健な異常スコアを提供する。
• アブレーション研究により、グラフと TS 双方の成分が性能に意味のある寄与をすることを確認した。