[論文レビュー] ODE - Augmented Training Improves Anomaly Detection in Sensor Data from Machines

Mohit Yadav, Pankaj Malhotra+3 more|arXiv (Cornell University)|May 5, 2016

Anomaly Detection Techniques and Applications参考文献 8被引用数 21

ひとこと要約

本稿では、動的機械のセンサデータにおける異常検出を改善するため、ドメイン知識に基づくODEを用いて合成された制御入力の変動を生成し、実際の正常データを拡張するODE拡張トレーニングを提案する。この手法によりLSTM-ADの性能が顕著に向上し、小規模な実データ上でのFスコアが0.49から0.64に上昇した。これにより、未知の制御入力下での異常検出が可能になった。

ABSTRACT

Machines of all kinds from vehicles to industrial equipment are increasingly instrumented with hundreds of sensors. Using such data to detect anomalous behaviour is critical for safety and efficient maintenance. However, anomalies occur rarely and with great variety in such systems, so there is often insufficient anomalous data to build reliable detectors. A standard approach to mitigate this problem is to use one class methods relying only on data from normal behaviour. Unfortunately, even these approaches are more likely to fail in the scenario of a dynamical system with manual control input(s). Normal behaviour in response to novel control input(s) might look very different to the learned detector which may be incorrectly detected as anomalous. In this paper, we address this issue by modelling time-series via Ordinary Differential Equations (ODE) and utilising such an ODE model to simulate the behaviour of dynamical systems under varying control inputs. The available data is then augmented with data generated from the ODE, and the anomaly detector is retrained on this augmented dataset. Experiments demonstrate that ODE-augmented training data allows better coverage of possible control input(s) and results in learning more accurate distinctions between normal and anomalous behaviour in time-series.

研究の動機と目的

• 動的システムにおける異常検出のための、制御入力の手動操作による変動が限られた正常トレーニングデータの不足という課題に対処すること。
• 実データに存在しない多様な制御入力シナリオをシミュレートすることで、異常検出器のロバスト性を向上させること。
• ドメイン知識に基づくODEモデルを生成的手法として活用し、データ拡張用に現実的で正常な時系列データを合成すること。
• ODE拡張トレーニングがLSTMベースの異常検出モデルの一般化性能および精度を向上させるかどうかを評価すること。
• 未知または未観測の制御入力によって生じる異常の検出が、ODE生成データによって向上することを実証すること。

提案手法

• 制御入力（例：アクセルペダルの位置）を変数として、従属するセンサ変数（例：冷却水温度）を可学的パラメータを有するODEとしてモデル化する。
• ドメイン知識に基づくODE構造を活用し、実センサデータの時間窓上で最尤推定を用いてODEパラメータを推定する。
• 学習済みの統計的分布から新しい制御入力値をサンプリングし、ODEの応答をシミュレートすることで合成時系列データを生成する。
• ODEで生成された合成データを元の実際の正常トレーニングデータに加えて、より大規模かつ多様性のあるトレーニングセットを構築する。
• 予測誤差の尤度スコアとFスコア最大化により最適化されたしきい値を用いて、拡張されたデータセット上でLSTM-AD異常検出モデルを再トレーニングする。
• 予測誤差にガウス尤度モデルを適用して異常スコアを計算し、検証データ上でFスコアを最大化するようにしきい値を選択する。

実験結果

リサーチクエスチョン

• RQ1 実際の正常データが限られている状況下で、ODEベースのデータ生成が異常検出性能を向上させるか？
• RQ2 実データにないODEシミュレートされた制御入力の変動をトレーニングデータに加えることで、未知の制御入力下での異常検出が向上するか？
• RQ3 ODE拡張トレーニングは、実データのみでトレーニングした場合と比較して、精度、再現率、Fスコアの観点でどのように異なるか？
• RQ4 ODEモデルは、元のデータに存在しない多様な制御入力条件下でも、現実的で正常な挙動を効果的にシミュレートできるか？
• RQ5 ODE生成データの導入により、新しいが正常な制御入力に直面した際の誤検出（ファルスポジティブ）が減少するか？

主な発見

• ODE拡張トレーニングにより、小規模な実データ上でのFスコアが0.49から0.64に上昇し、異常検出性能の顕著な向上が確認された。
• 小規模な実データにODE生成データを追加した際、再現率が0.34から0.52に向上し、誤検出が減少した。
• ODE拡張データでトレーニングされたモデルは、小規模な実データでのみトレーニングした場合に見逃されたタイプ1の異常（ゼロ値スパイク）を正常に検出できた。
• 図3のFスコア曲線は、小規模な実データセットに段階的にODE生成データを追加するにつれて一貫した改善が見られたことから、データの多様性の恩恵が裏付けられた。
• より大きな実データセット（L(r)）に対しても、ODE生成データの追加によりFスコアが0.55から0.67に上昇した。
• 本手法は、多様な制御入力条件下での正常挙動のカバー範囲を効果的に拡大し、未知のが正常な制御入力を誤って異常と分類するリスクを低減した。