[論文レビュー] Online Time Series Anomaly Detection with State Space Gaussian Processes

Christian Bock, François-Xavier Aubet+4 more|arXiv (Cornell University)|Jan 18, 2022

Anomaly Detection Techniques and Applications被引用数 6

ひとこと要約

本論文は、直交因子負荷制約を施した状態空間ガウス過程を用いて、単変量および多変量時系列のための効率的で解釈可能なオンライン異常検出手法 r-ssGPFA を提案する。F1スコア（例：SMDで73.15）において競争力を持ち、パラメータ数が最小限（236）で、1点あたりの推論時間が極めて短い（0.78 ms）という特徴を持ち、深層学習ベースの手法よりも高速かつ頑健であると同時に、異常要因を潜在的成分に帰属づけることが可能である。

ABSTRACT

We propose r-ssGPFA, an unsupervised online anomaly detection model for uni- and multivariate time series building on the efficient state space formulation of Gaussian processes. For high-dimensional time series, we propose an extension of Gaussian process factor analysis to identify the common latent processes of the time series, allowing us to detect anomalies efficiently in an interpretable manner. We gain explainability while speeding up computations by imposing an orthogonality constraint on the mapping from the latent to the observed. Our model's robustness is improved by using a simple heuristic to skip Kalman updates when encountering anomalous observations. We investigate the behaviour of our model on synthetic data and show on standard benchmark datasets that our method is competitive with state-of-the-art methods while being computationally cheaper.

研究の動機と目的

• 時系列データに対して計算効率的で、教師なしのオンライン異常検出手法を高次元データにスケーラブルに開発すること。
• 制約付き因子分析を用いて、潜在的成分を通じて異常を特定することにより、多変量異常検出における解釈性を向上させること。
• 異常観測に対して頑健性を高めるために、カーマンフィルタのヒューリスティックを用いて異常と見なされた点での更新をスキップする手法を導入すること。
• 最小限のモデルパラメータと低遅延推論を実現し、エッジデプロイメントに適した競争力ある検出性能を達成すること。
• 異常を特定された潜在的プロセスやノイズ成分に帰属づけることで、説明可能性を実現すること。

提案手法

• 線形時間の推論を可能にするために、状態空間ガウス過程（ssGP）の定式化を用いることで、多変量時系列の異常検出において高価なカーネル行列の逆行列計算を回避する。
• ガウス過程要因分析（GPFA）を状態空間フレームワークに拡張し、観測時系列を潜在的プロセスの線形結合としてモデル化する。
• 潜在的プロセスを分離するために、因子負荷行列に直交制約を課すことにより、解釈性と計算効率を向上させる。
• 観測値が異常とみなされた場合に更新をスキップする、ロバストなカーマンフィルターヒューリスティックを導入し、モデルのずれを低減して安定性を向上させる。
• 状態空間表現において標準的なGPカーネル（例：Matérn、Cosine）を用いることで、複雑な時間的ダイナミクスや周期性を捉える。
• 予測対数尤度から異常スコアを導出し、尤度がしきい値を下回った場合に異常と判定する。

実験結果

リサーチクエスチョン

• RQ1 状態空間GPの定式化により、多変量時系列の異常検出において効率的で線形時間の推論が可能になるか？
• RQ2 因子負荷行列に直交制約を課すことで、解釈性と計算速度にどのような影響を与えるか？
• RQ3 異常ポイントでのカーマン更新をスキップするシンプルなヒューリスティックが、検出性能を損なわせることなく頑健性を向上させられるか？
• RQ4 F1スコア、推論速度、パラメータ効率性の観点から、深層学習ベースおよびヒューリスティックベースの異常検出モデルと比較して、本手法はどのように異なるか？
• RQ5 異常を特定された潜在的成分やノイズプロセスに、どの程度意味的に帰属づけることができるか？

主な発見

• SMDベンチマークでは、r-ssGPFAは236パラメータで1点あたり0.78 msの推論時間、F1スコア73.15を達成し、RRCFより高速でDAGMMよりパラメータ効率に優れている。
• MSLデータセットでは、r-ssGPFAはF1スコア94.03を達成し、高精度かつ高再現率を示し、複雑な多変量時系列において優れた性能を発揮した。
• 単変量NABベンチマークでは、非ロバストなssGPバージョンがF1スコア90.18を達成し、RRCF（82.93）を上回り、より単純なアーキテクチャであるにもかかわらず強い汎化性能を示した。
• NABではロバスト版（r-ssGPFA）が性能を低下させたが、著者らはこれは「異常ウィンドウ」と呼ばれる、正常な点が異常とラベル付けされる期間が存在するためで、F1計算に影響を与えていると説明している。
• r-ssGPFAは9つの時系列のうち7つでSGP-Qを上回り、中央値としてF1スコアで3.60の向上を示し、より単純な設計であるにもかかわらず有効性を確認した。
• 本手法は、評価されたすべてのモデルの中で最も短い推論時間を達成し、1点あたり0.78 msであり、リアルタイムおよびエッジデプロイメントに適している。