[論文レビュー] Adversarially Learned Anomaly Detection

Houssam Zenati, Manon Romain+3 more|arXiv (Cornell University)|Dec 6, 2018

Anomaly Detection Techniques and Applications参考文献 35被引用数 23

ひとこと要約

本稿では、エンコーダを備えた双方向GANを用いて、異常検出のための敵対的に訓練された特徴を学習するGANベースの手法、Adversarially Learned Anomaly Detection (ALAD) を提案する。これらの特徴と再構築誤差を活用することで、ALADは画像および表形式データセットにおいて最先端の性能を達成するとともに、従来のGANベース手法と比較して推論が何百倍も高速化される。

ABSTRACT

Anomaly detection is a significant and hence well-studied problem. However, developing effective anomaly detection methods for complex and high-dimensional data remains a challenge. As Generative Adversarial Networks (GANs) are able to model the complex high-dimensional distributions of real-world data, they offer a promising approach to address this challenge. In this work, we propose an anomaly detection method, Adversarially Learned Anomaly Detection (ALAD) based on bi-directional GANs, that derives adversarially learned features for the anomaly detection task. ALAD then uses reconstruction errors based on these adversarially learned features to determine if a data sample is anomalous. ALAD builds on recent advances to ensure data-space and latent-space cycle-consistencies and stabilize GAN training, which results in significantly improved anomaly detection performance. ALAD achieves state-of-the-art performance on a range of image and tabular datasets while being several hundred-fold faster at test time than the only published GAN-based method.

研究の動機と目的

• 画像や表形式データなどの複雑で高次元のデータにおける異常検出の課題に対処すること。
• テスト時に最適化を必要とする従来のGANベースの異常検出手法の計算効率の低さを克服すること。
• 最近のアーキテクチャの進展を活用して、GANにおける訓練の安定性と特徴の質を向上させること。
• 高精度な検出性能を維持しつつ、テスト時に反復的最適化を回避する高速でフォワードパスのみの推論を可能にする手法を開発すること。

提案手法

• 訓練フェーズ中にジェネレータ、ディスクラミネータ、エンコーダを同時に学習する双方向GANフレームワークを採用する。
• エンコーダを用いて入力データを直接潜在空間にマッピングし、テスト時に単一の順方向パスでのみ推論を可能にする。
• 特徴空間における元のサンプルと再構築サンプルの類似度を評価する再構築ディスクラミネータを導入する。
• ディスクラミネータの中間層における実際の特徴と再構築特徴の差のL1ノルムを用いて異常スコアを計算する。
• GANの訓練を安定化させ、特徴の質を向上させるために、スペクトル正規化および潜在空間における追加ディスクラミネータを適用する。
• データ空間と潜在空間の間でサイクル整合性を強制することで、意味のある再構築と頑健な特徴学習を確保する。

実験結果

リサーチクエスチョン

• RQ1 テスト時に反復的最適化を必要とせず、高速な推論を実現しつつ、最先端の性能を達成できるGANベースの異常検出手法は可能か？
• RQ2 敵対的学習特徴は、従来の再構築誤差（L1、L2）やディスクラミネータのログティットと比較して、異常検出性能においてどのように優れるか？
• RQ3 スペクトル正規化や補助ディスクラミネータなどの訓練安定化手法が、異常検出性能にどの程度寄与するか？
• RQ4 潜在空間におけるディスクラミネータとサイクル整合性制約の導入は、特徴の質と検出精度を向上させるか？

主な発見

• CIFAR-10ではAUROCが0.6072 ± 0.1201、SVHNでは0.5753 ± 0.0268を達成し、ベースラインのGANや他の再構築ベース手法を上回る最先端の性能を示した。
• KDD99およびArrhythmiaの表形式データセットでは、敵対的学習特徴に基づく異常スコアがF1スコア0.9501 ± 0.0018および0.5152 ± 0.0214を達成し、L1、L2、ログティットベースのスコアを上回った。
• スペクトル正規化と潜在空間におけるディスクラミネータの使用により、SVHNおよびCIFAR-10での性能が向上し、特にスペクトル正規化が最も顕著な正の影響を示した。
• AnoGANと同等の唯一の比較可能なGANベース手法と比較して、ALADはテスト時の推論が何百倍も高速化された。これは、反復的潜在コード最適化の必要性を排除したためである。
• アブレーションスタディの結果、再構築ディスクラミネータおよび潜在空間ディスクラミネータの両方が、特に画像データにおいて性能向上に顕著な寄与をしていることが確認された。
• 本手法はデータモダリティを問わず良好に一般化し、高次元の画像および表形式データの両方で強力な性能を示した。