[論文レビュー] A Deep Neural Network for Unsupervised Anomaly Detection and Diagnosis in Multivariate Time Series Data

Chuxu Zhang, Dongjin Song+8 more|arXiv (Cornell University)|Nov 20, 2018

Anomaly Detection Techniques and Applications参考文献 30被引用数 97

ひとこと要約

MSCREDは、signature matricesを再構成し残差を分析することによって多変量時系列の異常を検知・診断する、Multi-Scale Convolutional Recurrent Encoder-Decoderを導入します。合成データおよび発電所データでベースラインを上回ります。

ABSTRACT

Nowadays, multivariate time series data are increasingly collected in various real world systems, e.g., power plants, wearable devices, etc. Anomaly detection and diagnosis in multivariate time series refer to identifying abnormal status in certain time steps and pinpointing the root causes. Building such a system, however, is challenging since it not only requires to capture the temporal dependency in each time series, but also need encode the inter-correlations between different pairs of time series. In addition, the system should be robust to noise and provide operators with different levels of anomaly scores based upon the severity of different incidents. Despite the fact that a number of unsupervised anomaly detection algorithms have been developed, few of them can jointly address these challenges. In this paper, we propose a Multi-Scale Convolutional Recurrent Encoder-Decoder (MSCRED), to perform anomaly detection and diagnosis in multivariate time series data. Specifically, MSCRED first constructs multi-scale (resolution) signature matrices to characterize multiple levels of the system statuses in different time steps. Subsequently, given the signature matrices, a convolutional encoder is employed to encode the inter-sensor (time series) correlations and an attention based Convolutional Long-Short Term Memory (ConvLSTM) network is developed to capture the temporal patterns. Finally, based upon the feature maps which encode the inter-sensor correlations and temporal information, a convolutional decoder is used to reconstruct the input signature matrices and the residual signature matrices are further utilized to detect and diagnose anomalies. Extensive empirical studies based on a synthetic dataset and a real power plant dataset demonstrate that MSCRED can outperform state-of-the-art baseline methods.

研究の動機と目的

• 時系列間の時間的依存性とセンサ間相関を考慮した、堅牢な異常検知の動機づけ。
• 異常を同時に検出し、根本原因を特定し、異常の重大度を解釈する枠組みを提案する。
• 異なるレベルの異常を捉えるために、マルチスケール署名マトリクスを用いてシステム状況を表現する。
• センサ間相関と時間パターンを学習するエンコーダ-デコーダアーキテクチャを開発し、残差を異常スコアリングに用いる。

提案手法

• 時系列セグメントからマルチスケール（解像度）システム署名マトリクスを構築する。
• 結合された署名マトリクス上の完全畳み込みエンコーダを用いてセンサ間相関をエンコードする。
• 関連する過去の状態に選択的に注目するため、注意機構を持つConvLSTMで時間パターンをモデル化する。
• 畳み込みデコーダで署名マトリクスを再構成し、残差を得る。
• 二乗再構成損失を用いてエンドツーエンドで学習し、残差を異常検知と診断に用いる。

実験結果

リサーチクエスチョン

• RQ1 MSCREDは多変量時系列における最先端の教師なし異常検知ベースラインを上回ることができるか。
• RQ2 個々の構成要素（畳み込みエンコーダ、注意機構付きConvLSTM、マルチスケール署名）が検出性能にどう寄与するか？
• RQ3 MSCREDは異常を引き起こすセンサを特定する根本原因の識別と、異常の重大度（期間）の解釈を正確に行えるか？
• RQ4 従来の時系列予測や密度ベース手法と比較して、入力ノイズに対してMSCREDは頑健か？

主な発見

• MSCREDは合成データと発電所データの両方で全ベースラインより高い異常検知性能を達成し、最高ベースラインに対するF1スコアの改善は13.3%から30.0%の範囲。
• ConvLSTM層数を増やすと性能が向上し、注意機構付きConvLSTMは非注意バリアントより優れている。
• MSCREDは根本原因識別（recall@kの向上）でLSTM-EDよりも大幅に優れており、報告ケースで29–32ポイントの差。
• 3つの署名マトリクスチャネルに対応する小/中/大スケールの異常長さを跨る頑健な異常検知を示す。
• MSCREDは入力ノイズに対して頑健で、ノイズスケールが0.2から0.45に変化してもARMAおよびLSTM-EDを上回る。