[論文レビュー] Real-Time Anomaly Detection for Advanced Manufacturing: Improving on Twitter's State of the Art

Caitríona M. Ryan, Andrew Parnell+1 more|arXiv (Cornell University)|Nov 13, 2019

Anomaly Detection Techniques and Applications被引用数 4

ひとこと要約

本稿では、高度な製造業におけるストリーミング時系列データ向けに、統計的に妥当でリアルタイムな異常検出アルゴリズムR-ESDを提案する。一般化極端スチューデント化済み偏差（ESD）検定統計量をローリングウィンドウと平均ベースの標準化を用いて再帰的に更新することで、低メモリでリアルタイムな検出を実現し、工業的およびベンチマークデータセットにおいて、TwitterのSH-ESDや他のベンチマークより、精度、再現率、および早期異常検出の面で優れている。

ABSTRACT

The detection of anomalies in real time is paramount to maintain performance and efficiency across a wide range of applications including web services and smart manufacturing. This paper presents a novel algorithm to detect anomalies in streaming time series data via statistical learning. We adapt the generalised extreme studentised deviate test [1] to streaming data by using a sliding window approach. This is made computationally feasible by recursive updates of the Grubbs test statistic [2]. Moreover, a priority queue [3] is employed to reduce memory requirements, where subsets of the required data streaming window are maintained in the algorithm rather than the full list. Our method is statistically principled. It is suitable for streaming data and it outperforms the AnomalyDetection software package, recently released by Twitter Inc. (Twitter) [4] and used by multiple teams at Twitter as their state of the art on a daily basis [5]. The methodology is demonstrated using an example of unlabelled data from the Twitter AnomalyDetection GitHub repository and using a real manufacturing example with labelled anomalies.

研究の動機と目的

• 高度な製造業におけるストリーミング時系列データ向けに、リアルタイムで低メモリな異常検出手法を開発すること。
• 特に中央値とMADを用いた標準化および非重複ウィンドウの使用により、TwitterのSH-ESDに統計的および計算上の制限がある問題を解決すること。
• ローリングウィンドウ内でのESD検定統計量の再帰的更新により、真のストリーミング検出を可能にすること。
• 産業用センサデータにおける異常検出の精度と早期警告能力を向上させること。
• ベンチマークおよび実世界のデータセットにおいて、既存の最先端手法（SH-ESD、EGADS、DeepADVote）を上回ること。

提案手法

• R-ESDアルゴリズムは、初期段階で時系列分解を用いてトレンドおよび季節性を推定・除去する。
• スライディングウィンドウ内のストリーミングデータの残差に対して、再帰的更新を用いた一般化ESD検定を適用する。
• 検定統計量は、理論的分布に一致するように、適切な標準化のための平均および標準偏差を用いて再帰的に更新される。
• 季節性の周期は、Fourier変換を用いたTSAパッケージのperiodogram関数により推定される。
• 検定統計量をESD分布から導出された臨界値と比較することで異常を検出する。1ウィンドウあたり複数の外れ値を同時にテスト可能である。
• 1データポイントあたり定数時間の更新が可能であり、メモリ使用量を最小限に抑えることで、リアルタイムデプロイメントを可能にする。

実験結果

リサーチクエスチョン

• RQ1 一般化ESD検定の統計的に妥当なバージョンを、ストリーミング時系列データに適応できるか？
• RQ2 標準化において中央値とMADを平均と標準偏差に置き換えることで、異常検出性能が向上し、第一種過誤が低減するか？
• RQ3 ESD検定統計量の再帰的更新により、ローリングウィンドウ内で低メモリでリアルタイムな異常検出が可能になるか？
• RQ4 R-ESDは、工業的およびベンチマークデータセットにおいて、TwitterのSH-ESDおよび他の最先端手法と比較して、どのように性能を発揮するか？
• RQ5 R-ESDは、特に製造業の文脈において、従来の手法よりも、微細で徐々に進行する異常を早期に検出できるか？

主な発見

• R-ESDは、Numentaのマシン温度データセットで精度0.004、再現率0.25を達成し、SH-ESDが検出できなかった最初の異常を正しく特定した。
• SH-ESDは同データセットでいかなる異常も検出できず、精度と再現率の両方が0.0であった。
• Yahoo EGADS A3ベンチマークでは、R-ESDはF1スコア0.75以上を達成し、EGADS（F1 < 0.7）およびDeepADVote（25パーセンタイルF1 = 0.3）を上回った。
• R-ESDは20,000ウィンドウを処理するのに1ウィンドウあたり0.0005秒で完了し、リアルタイムストリーミングにおける高い計算効率を示した。
• アルゴリズムは、破壊的故障に至る段階的温度低下を正しく検出しており、産業用メンテナンスにとって不可欠な早期警告能力を示した。
• R-ESDは平均ベースの標準化を採用しており、統計的に妥当であり、SH-ESDで見られる中央値とMADに起因する重尾分布の問題を回避している。