[論文レビュー] Variational Inference for On-line Anomaly Detection in High-Dimensional Time Series

Maximilian Sölch, Justin Bayer+2 more|arXiv (Cornell University)|Feb 18, 2016

Anomaly Detection Techniques and Applications参考文献 6被引用数 51

ひとこと要約

本稿では、高次元時系列データにおける異常検出をオフラインおよびオンラインの両方で行うため、確率的再帰ネットワーク（STORN）を用いた変分推論アプローチを提案する。複雑な時系列的・空間的依存関係を近似的に変分推論によってモデル化することで、リアルタイムのロボットセンサデータにおいても頑健な異常検出を実現する。

ABSTRACT

Approximate variational inference has shown to be a powerful tool for modeling unknown complex probability distributions. Recent advances in the field allow us to learn probabilistic models of sequences that actively exploit spatial and temporal structure. We apply a Stochastic Recurrent Network (STORN) to learn robot time series data. Our evaluation demonstrates that we can robustly detect anomalies both off- and on-line.

研究の動機と目的

• ロボットからの高次元で順序付けられたセンサデータにおける異常検出の課題に対処すること。
• 変化するデータパターンに適応できるスケーラブルで効率的なオンライン異常検出手法の開発。
• 深層確率的モデリングを用いて時系列データの時系列的および空間的構造を活用すること。
• ラベル付きの異常例が不要な頑健な異常検出を可能にすること。
• 変分推論がストリーミングデータから複雑で構造的な分布を学習する有効性を示すこと。

提案手法

• 本手法は、高次元時系列データ内の順序的依存関係をモデル化するために、確率的再帰ネットワーク（STORN）を用いる。
• 真の潜在変数の事後分布を近似するために変分推論が用いられ、効率的な学習と推論を可能にする。
• モデルは、データ内の空間的相関と時系列的ダイナミクスの両方を捉える構造的確率的表現を学習する。
• 推論はオンライン形式で実行され、新しいデータが到着するたびにリアルタイムでの異常検出が可能となる。
• 本手法は、ストリーミングデータ上でエンドツーエンドにモデルを訓練するため、確率的勾配最適化を用いる。
• 異常は、学習済みモデル下での新しい観測の尤度を測定することで検出する。

実験結果

リサーチクエスチョン

• RQ1 STORNを用いた変分推論は、時系列的および空間的構造を持つ複雑な高次元時系列データを効果的にモデル化できるか？
• RQ2 提案手法は、ストリーミングロボットセンサデータ上でリアルタイムで異常を検出できるか？
• RQ3 ラベル付きの異常例が不要な状況でも、本手法は未観測の異常パターンに一般化できるか？
• RQ4 検出精度と計算効率の観点から、従来の手法と比較して本手法の性能はどの程度か？
• RQ5 オンライン設定において、概念のずれや変化するデータ分布に本手法は適応できるか？

主な発見

• 提案手法は、実際のロボット時系列データにおいて、オフラインおよびオンラインの両設定で頑健な異常検出を達成した。
• モデルは、高次元センサストリーム内の複雑な時系列的および空間的依存関係を効果的に捉えた。
• 変分推論により、効率的なオンライン推論が可能となり、リアルタイム検出が現実可能となった。
• 異常行動の事前知識やラベル付き例が不要な状況でも、異常検出が可能である。
• 本手法は、ストリーミングデータにおける未観測の異常パターンの検出において優れた性能を示した。
• STORNと変分推論の組み合わせにより、複雑な順序データ分布のスケーラブルで高精度なモデリングが可能となった。