[論文レビュー] Anomaly detection with Wasserstein GAN

Ilyass Haloui, Jayant Gupta+1 more|arXiv (Cornell University)|Dec 6, 2018

Anomaly Detection Techniques and Applications参考文献 3被引用数 6

ひとこと要約

本稿では、時間系列データにおける異常検出のためのエンコーダを備えたワッサーシュタイン GAN を提案する。生成器が正常なサンプルを再構築できる能力を活用し、再構築誤差を用いて異常を検出する。UCI HAR データセットでは 70% の AUPRC を達成し、多次元時間系列設定におけるこのアプローチの最先端の性能を示している。

ABSTRACT

Generative adversarial networks are a class of generative algorithms that have been widely used to produce state-of-the-art samples. In this paper, we investigate GAN to perform anomaly detection on time series dataset. In order to achieve this goal, a bibliography is made focusing on theoretical properties of GAN and GAN used for anomaly detection. A Wasserstein GAN has been chosen to learn the representation of normal data distribution and a stacked encoder with the generator performs the anomaly detection. W-GAN with encoder seems to produce state of the art anomaly detection scores on MNIST dataset and we investigate its usage on multi-variate time series.

研究の動機と目的

• 高次元時間系列データにおける生成的対抗ネットワーク（GAN）を用いた異常検出の可能性を検討すること。
• ワッサーシュタイン GAN にエンコーダを組み合わせた手法の性能を、2次元の多モーダル分布、MNIST、多次元時間系列を含む多様なデータセットで評価すること。
• 生成器とエンコーダを用いた再構築誤差に基づく異常検出を、判別器の GAN 要素と比較すること。
• 特に生の時間系列データにおける異常検出性能を向上させるアーキテクチャ的および学習上の選択肢を同定すること。

提案手法

• 正常な時間系列データ上でワッサーシュタイン GAN（W-GAN）を学習させ、元のデータ分布を学習すること。
• 入力時間系列を潜在空間にマップするスタックドエンコーダネットワークを実装し、生成器による再構築を可能にすること。
• 元の時間系列と再構築時間系列の間の平均二乗誤差（MSE）を異常スコアとして使用すること。
• 時間系列をマルチチャネル画像として表現するための再帰プロットを適用し、W-GAN にエンコーダを組み合わせたモデルの入力として使用すること。
• 生成器とエンコーダを、敵対的損失と再構築損失を用いて同時に学習すること。
• テストデータ（異常クラスを含む）における曲線下の面積（AUPRC）を用いて性能を評価すること。

実験結果

リサーチクエスチョン

• RQ1 エンコーダを備えたワッサーシュタイン GAN は、多次元時間系列データにおける異常を効果的に検出できるか？
• RQ2 生成器とエンコーダからの再構築誤差は、判別器の GAN 出力と比較して、異常を同定する上でどれほど有効か？
• RQ3 アーキテクチャ上の選択（例：1次元畳み込み、バッチ正則化）は、異常検出性能をどのように向上させるか？
• RQ4 生の時間系列データと再帰プロットのような変換表現の両方において、モデルの性能はどのように異なるか？
• RQ5 潜在空間の次元と事前分布の選択は、再構築品質と異常検出精度にどのような影響を与えるか？

主な発見

• エンコーダを備えた W-GAN は、UCI HAR データセットで『横になっている』行動を異常とみなした場合、70% の AUPRC を達成し、このタスクにおける強力な性能を示している。
• 生成器とエンコーダからの再構築誤差は、信頼性の高い異常スコアを提供しており、異常サンプルは正常サンプルと比較して顕著に高い誤差を示した。
• 時間系列をマルチチャネル画像に変換する再帰プロットの使用により、モデルが時間的パターンをよりよく捉える能力が向上し、異常検出に寄与した。
• GAN の判別器コンponent は異常検出において弱い性能を示したが、生成器とエンコーダは再構築ベースの検出においてより効果的であった。
• 生成器の入力層の直前にバッチ正則化を適用することで、エンコーダの収束が向上したが、潜在空間の整合性への正式な影響はまだ明確でない。
• 特徴工学を施さない生の時間系列データを直接入力とした場合、異常クラスと正常クラスの再構築誤差の明確な分離が困難であったため、直接的な生データ処理には限界があることが示唆された。