[論文レビュー] LSTM-based Anomaly Detection for Non-linear Dynamical System

Yue Tan, Chunjing Hu+4 more|arXiv (Cornell University)|Jun 5, 2020

Anomaly Detection Techniques and Applications参考文献 30被引用数 4

ひとこと要約

本稿では、非線形力学系における異常検出のためのLSTMベースのフレームワークを提案する。マルチステップ予測と、新規の局所平均と適応パラメータ（LAAP）アルゴリズムを活用し、壁面摩擦応力時系列における異常を検出する。本手法は、ARIMA法および絶対値ベースの手法と比較して、より高い予測精度と優れた異常検出性能を示し、特にシステム不安定化の早期警戒において優れている。

ABSTRACT

Anomaly detection for non-linear dynamical system plays an important role in ensuring the system stability. However, it is usually complex and has to be solved by large-scale simulation which requires extensive computing resources. In this paper, we propose a novel anomaly detection scheme in non-linear dynamical system based on Long Short-Term Memory (LSTM) to capture complex temporal changes of the time sequence and make multi-step predictions. Specifically, we first present the framework of LSTM-based anomaly detection in non-linear dynamical system, including data preprocessing, multi-step prediction and anomaly detection. According to the prediction requirement, two types of training modes are explored in multi-step prediction, where samples in a wall shear stress dataset are collected by an adaptive sliding window. On the basis of the multi-step prediction result, a Local Average with Adaptive Parameters (LAAP) algorithm is proposed to extract local numerical features of the time sequence and estimate the upcoming anomaly. The experimental results show that our proposed multi-step prediction method can achieve a higher prediction accuracy than traditional method in wall shear stress dataset, and the LAAP algorithm performs better than the absolute value-based method in anomaly detection task.

研究の動機と目的

• 従来のシミュレーション手法が計算的に高コストであるため、複雑で非線形な力学系における異常検出の課題に対処すること。
• こうしたシステムからの時系列データにおける、自動化されたディープラーニングベースの早期異常検出手法の開発。
• LSTMネットワークを用いて、複数ステップ先の壁面摩擦応力の予測精度を向上させること。
• 将来の異常発生を事前に特定できる、効果的な異常検出アルゴリズムの設計。

提案手法

• 壁面摩擦応力時系列から順序付きサンプルを抽出するため、スライディングウィンドウ手法を採用し、LSTMモデルの学習に用いる。
• 複数層のLSTMネットワークを訓練し、1〜10ステップ先の将来の壁面摩擦応力値をマルチステップ予測する。
• 予測された時系列内の局所的数値特徴を分析することで、異常を検出するための局所平均と適応パラメータ（LAAP）アルゴリズムを実装する。
• 予測値の乖離に基づき、将来の異常をLAAPアルゴリズムで推定し、局所的ダイナミクスに適合するように適応的閾値を調整する。
• 予測精度および異常検出性能を、ARIMA法および絶対値ベースの異常検出手法と比較する。
• 予測精度および異常発生タイミングの正確性の両方を評価するため、RMSEおよび誤差分布の指標を用いてモデルの性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 LSTMベースのマルチステップ予測は、非線形力学系における壁面摩擦応力の予測において、従来のARIMAモデルよりも高い精度を達成できるか？
• RQ2 提案されたLAAPアルゴリズムは、ベースラインの絶対値ベース手法と比較して、どの程度効果的に異常を検出できるか？
• RQ3 予測ホライズンが延長するに従い、LSTMの予測精度はどの程度低下するか？
• RQ4 LAAPアルゴリズムは、予測された異常発生時刻と実際の発生時刻の誤差を低減することで、異常アラートのタイミング精度を向上させられるか？

主な発見

• 1ステップ予測において、LSTMベースのマルチステップ予測はゾーン4で0.9991、ゾーン1で0.9909の予測精度を達成した。予測ホライズンが延長するに従い、徐々に精度が低下した。
• 10ステップ予測において、LSTMモデルはゾーン1で0.9346、ゾーン4で0.9713の予測精度を維持した。これは、長期ホライズンにおいても高いロバストネスを示している。
• 予測ステップが2を超えた以降、LSTMモデルのRMSEはARIMAより一貫して低く保たれ、優れた予測性能を示した。
• LAAPアルゴリズムは、異常検出でゼロ誤差を達成した回数が20回以上にのぼり、絶対値ベース手法の14回を上回った。これは、検出精度の向上を示している。
• LAAPの誤差範囲は約-130〜5と狭く、絶対値ベース手法の約-175〜75と比較して、異常検出におけるタイミング正確性が優れている。
• LAAPアルゴリズムは、正確な異常発生タイミングの頻度および全体的な誤差分布の両面で、絶対値ベース手法を上回った。これにより、早期異常検出における有効性が確認された。