[論文レビュー] Recurrent Neural Networks for anomaly detection in the Post-Mortem time series of LHC superconducting magnets

Maciej Wielgosz, Andrzej Skoczeń+1 more|arXiv (Cornell University)|Feb 2, 2017

Seismology and Earthquake Studies参考文献 18被引用数 7

ひとこと要約

本論文では、CERNの大型ハドロン衝突型加速器（LHC）の超電導磁石から得られる死者時系列データにおける異常を検出するため、LSTMおよびGRUの再帰的ニューラルネットワークを用いた深層学習アプローチを提案する。高分解能の歴史的データを用いて訓練することで、手動のしきい値設定を一切行わず、異常な動作状態を99.9％の精度で特定することができ、システム設定時の専門家による関与を著しく低減する。

ABSTRACT

This paper presents a model based on Deep Learning algorithms of LSTM and GRU for facilitating an anomaly detection in Large Hadron Collider superconducting magnets. We used high resolution data available in Post Mortem database to train a set of models and chose the best possible set of their hyper-parameters. Using Deep Learning approach allowed to examine a vast body of data and extract the fragments which require further experts examination and are regarded as anomalies. The presented method does not require tedious manual threshold setting and operator attention at the stage of the system setup. Instead, the automatic approach is proposed, which achieves according to our experiments accuracy of 99%. This is reached for the largest dataset of 302 MB and the following architecture of the network: single layer LSTM, 128 cells, 20 epochs of training, look_back=16, look_ahead=128, grid=100 and optimizer Adam. All the experiments were run on GPU Nvidia Tesla K80

研究の動機と目的

• 大型ハドロン衝突型加速器（LHC）の超電導磁石における異常検出を自動化し、専門家の関与を低減すること。
• 手作業で作成する必要のある時間消費的なモデルに代わり、RNNを用いたデータ駆動型の深層学習アプローチを導入すること。
• 高分解能の死者時系列データ上で異常検出精度を最大化するためのLSTMおよびGRUネットワークの最適なハイパーパrameter（例：look_back、look_ahead、グリッドサイズ、セル数）を特定すること。
• リアルタイム制御システムへの導入可能性を評価すること、特にFPGAへの実装可能性を含む。

提案手法

• 本手法は、LHCの超電導磁石の時系列データにおける時間的依存性をモデル化するため、長短期記憶（LSTM）およびゲート付き再帰ユニット（GRU）ネットワークを用いる。
• 時系列データは、グリッドベースの量子化スキームを用いて離散化され、各値は事前に定義されたグリッドサイズ（grid=100）に基づいてカテゴリにマッピングされる。
• モデルは、将来の状態を予測し、そのずれを異常として検出するため、スライディングウィンドウアプローチを採用する。ここで、look_back=16、look_ahead=128を用いる。
• 分類精度を最大化するために、セル数、トレーニングエポック数、最適化手法（Adam）などのハイパーパrameterをグリッドサーチにより調整する。
• 最適なパフォーマンスを得るため、1層のLSTM（128メモリユニット）を用い、302 MBのデータセットを20エポックにわたりトレーニングする。
• モデルの評価は、異常分類の精度に基づき、さまざまなグリッドサイズ、look_ahead値、ネットワークの深さの違いと比較して行われる。

実験結果

リサーチクエスチョン

• RQ1 LSTMやGRUのような深層学習モデルは、LHC超電導磁石の高分解能死者時系列データにおける異常を効果的に検出できるか？
• RQ2 異常検出精度を最大化するための最適なハイパーパrameter設定（例：look_back、look_ahead、グリッドサイズ、セル数）は何か？
• RQ3 データ分解能とネットワークの複雑さが増加するにつれて、モデルのパフォーマンスはどのように変化するか？
• RQ4 本手法は、システム設定時に手動のしきい値設定や専門家の監視なしに、高い精度を達成できるか？
• RQ5 本手法は、QPSのようなハードリアルタイム制御システムへのリアルタイム導入に適しているか？また、FPGAに実装可能か？

主な発見

• 提案されたLSTMベースのモデルは、302 MBの最大データセットを用いて、1層構造、128セル、20エポック、look_back=16、look_ahead=128、grid=100の条件下で99.9％の精度を達成した。
• グリッドサイズの増加（より細かい量子化）は、より詳細なデータ表現が可能になる反面、分類の複雑さが増加し、モデルのパフォーマンスを低下させた。
• 大きなlook_ahead値は、予測先が遠くなるほど不確実性とモデルの難易度が増すため、精度を低下させた。
• 9個を超えるLSTMセルを使用しても、性能向上はほとんど得られず、この異常検出タスクには9個のセルで十分であることが示された。
• 小さなデータセットにおいて、GRUとLSTMのモデルはほぼ同等の性能（61.17％対61.12％の精度）を示し、本アプリケーションにおいて同等の有効性を持つことが示された。
• 本手法により、自動的でしきい値フリーの異常検出が可能となり、モデルの設定や検証における専門家の関与を著しく低減できる。