[論文レビュー] Improving Robustness on Seasonality-Heavy Multivariate Time Series Anomaly Detection

Farzaneh Khoshnevisan, Zhewen Fan+1 more|arXiv (Cornell University)|Jul 25, 2020

Anomaly Detection Techniques and Applications参考文献 22被引用数 6

ひとこと要約

本稿では、複雑な季節的パターンをモデル化するための畳み込み-LSTM層と、新たな滑らか化された注目メカニズムを統合した、多次元時系列異常検出に向けた頑健な生成的対抗ネットワークRSM-GANを提案する。また、訓練データの汚染を軽減するための補助エンコーダを採用し、実世界のデータでは30%、合成データでは16%の精度向上を達成し、ベースラインの中で最も低い偽陽性率を記録した。

ABSTRACT

Robust Anomaly Detection (AD) on time series data is a key component for monitoring many complex modern systems. These systems typically generate high-dimensional time series that can be highly noisy, seasonal, and inter-correlated. This paper explores some of the challenges in such data, and proposes a new approach that makes inroads towards increased robustness on seasonal and contaminated data, while providing a better root cause identification of anomalies. In particular, we propose the use of Robust Seasonal Multivariate Generative Adversarial Network (RSM-GAN) that extends recent advancements in GAN with the adoption of convolutional-LSTM layers and attention mechanisms to produce excellent performance on various settings. We conduct extensive experiments in which not only do this model displays more robust behavior on complex seasonality patterns, but also shows increased resistance to training data contamination. We compare it with existing classical and deep-learning AD models, and show that this architecture is associated with the lowest false positive rate and improves precision by 30% and 16% in real-world and synthetic data, respectively.

研究の動機と目的

• 複雑で多期間にわたる季節的パターンを示す多次元時系列における異常検出の課題に対処すること。
• 既存のディープラーニングベースの異常検出モデルの性能を低下させる、データ汚染および季節的パターンに対する頑健性を向上させること。
• 異常スコアリング機構と統合された因果推論フレームワークにより、異常原因の正確な同定を可能にすること。
• 時間的および空間的依存関係を捉えつつ、実世界および合成環境で偽陽性率を低く保てるGANベースのアーキテクチャを開発すること。

提案手法

• RSM-GANは、Wasserstein GANフレームワークを用いたエンコーダ-デコーダ-エンコーダアーキテクチャを採用し、多次元時系列データを頑健にモデル化する。
• 複数の時系列チャネルにわたる局所的および順序的依存関係を捉えるために、畳み込み-LSTM層を統合する。
• 再帰層内に新規の滑らか化された注目メカニズムを適用し、データ駆動型で複数の季節的パターン（例：日次、週次、休日要因）に動的に適応する。
• 補助エンコーダを共同で学習させ、正常データの頑健な表現を学習することで、訓練セット内の汚染に対する耐性を高める。
• 潜在空間における再構成誤差に基づいて異常スコアを計算し、因果推論フレームワークを用いて検出された異常原因を同定する。
• 勾配降下法を用いて勾配ペナルティを導入し、訓練安定性を確保しながら敵対的損失と再構成損失を最適化する。

実験結果

リサーチクエスチョン

• RQ1 多次元時系列異常検出において、訓練データの汚染に対して頑健であるように、深層生成モデルをどのように設計できるか？
• RQ2 学習された注目メカニズムは、複雑で多期間にわたる季節的パターンの検出性能をどの程度向上させられるか？
• RQ3 補助符号化を備えたGANベースのアーキテクチャは、季節的要因が強いデータにおいて、既存の最先端モデルを精度および偽陽性率の面で上回ることができるか？
• RQ4 提案された因果推論フレームワークは、多次元システムにおける異常原因の同定にどの程度効果的か？

主な発見

• RSM-GANは、実世界の暗号鍵データにおいて、最先端モデル比で30%の精度向上を達成し、偽陽性率はわずか0.11%にとどまった。
• 中程度の汚染を伴う合成データにおいて、RSM-GANはベースライン比で16%の精度向上を達成し、偽陽性率は0.10%という低水準を維持した。
• 季節的複雑度が増加する状況でも一貫した性能を示し、MSCREDやOC-SVMは多期間の季節的パターン下で顕著な性能低下を示した。
• 注目メカニズムのおかげで、RSM-GANは休日期間中の異常を正しく同定できたが、ベースラインモデルは季節的調整が不足していたため誤分類を起こした。
• 原因同定の観点では、RSM-GANは暗号鍵データセットでリコール0.5093、合成データで0.7870を達成し、すべてのベースラインを上回った。
• NABスコアは、実世界データで0.2992、合成データで0.8986を記録し、他のモデルの負のスコアと比較して優れた全体的な性能を示した。