[論文レビュー] Fence GAN: Towards Better Anomaly Detection

Cuong Phuc Ngo, Amadeus Aristo Winarto+4 more|arXiv (Cornell University)|Apr 2, 2019

Anomaly Detection Techniques and Applications参考文献 28被引用数 7

ひとこと要約

Fence GAN (FGAN) は、通常のデータ分布の境界でサンプルを生成するように学習する修正された GAN 損失を提案する。これにより、生成されたサンプルが通常のデータ分布と重複するのではなく、境界上に位置するようになる。その結果、識別器の出力スコアを直接異常スコアとして使用でき、アーキテクチャの変更や再構成損失なしに、MNIST、CIFAR10、KDD99 データセットで最先端の性能を達成する。

ABSTRACT

Anomaly detection is a classical problem where the aim is to detect anomalous data that do not belong to the normal data distribution. Current state-of-the-art methods for anomaly detection on complex high-dimensional data are based on the generative adversarial network (GAN). However, the traditional GAN loss is not directly aligned with the anomaly detection objective: it encourages the distribution of the generated samples to overlap with the real data and so the resulting discriminator has been found to be ineffective as an anomaly detector. In this paper, we propose simple modifications to the GAN loss such that the generated samples lie at the boundary of the real data distribution. With our modified GAN loss, our anomaly detection method, called Fence GAN (FGAN), directly uses the discriminator score as an anomaly threshold. Our experimental results using the MNIST, CIFAR10 and KDD99 datasets show that Fence GAN yields the best anomaly classification accuracy compared to state-of-the-art methods.

研究の動機と目的

• 標準の GAN 学習目的と異常検出の目的との間にある不整合、すなわち生成されたサンプルが重複することで識別器の有効性が低下する問題を解決すること。
• 通常のデータ分布の境界でサンプルを生成するように GAN 損失を修正することで、高次元データにおける異常検出性能を向上させること。
• 再構成や補助損失を避けて、識別器スコアのみを用いてシンプルで即座に適用可能な異常検出手法を実現すること。
• MNIST、CIFAR10、KDD99 ネットワークインシデントデータセットといった多様なベンチマークで手法を検証すること。

提案手法

• 実データ分布の境界でサンプルを生成するように学習する修正された GAN 損失を導入する。生成器は通常のデータ分布の内部ではなく、境界上に位置するサンプルを生成するように訓練される。
• 生成されたサンプルと実データ分布との距離を最大化するように生成器の目的関数を修正し、ハイパーパramータ α と β を用いた境界を囲む損失（boundary-encircling loss）を導入する。
• 推論時において識別器の「本物／偽物」確率スコアを異常スコアとして直接使用し、再構成や特徴マッチングの必要性を排除する。
• 基本的な GAN アーキテクチャと学習パイプラインを維持したまま、修正された目的関数に従って GAN を標準的な敵対的学習法で訓練する。
• 生成された境界上のサンプルの多様性を高めるために、分散損失（dispersion loss）を適用し、モード崩壊を防ぐ。
• 安定性と境界分離性能の向上を図るため、識別器にハッチ型損失（hinge-like loss）を用いる。

実験結果

リサーチクエスチョン

• RQ1 通常のデータ分布の境界でサンプルを生成するように GAN 損失を修正することで、異常検出性能が向上するか？
• RQ2 識別器スコアを直接異常スコアとして使用することで、再構成ベースや特徴マッチングベースのスコアよりも優れた結果が得られるか？
• RQ3 標準 GAN フレームワークに単純な損失関数の修正を加えるだけで、GANomaly や Efficient GAN といった複雑な GAN 基盤の異常検出手法を上回る性能を達成できるか？
• RQ4 Fence GAN は画像データ（MNIST、CIFAR10）と表形式のネットワークインシデントデータ（KDD99）を含む多様なデータセットでどれほど高い性能を発揮するか？

主な発見

• KDD99 データセットでは、Fence GAN は F1 スコア 0.95 ± 0.02 を達成し、Efficient-GAN（0.91 ± 0.07）や他の最先端手法を上回った。
• CIFAR10 では、Fence GAN が比較対象の全手法の中で最高の平均異常検出精度を記録し、識別器スコアが異常クラスと正常クラスを明確に分離していた。
• MNIST では、Fence GAN が異常数字と正常数字を優れた性能で区別でき、異常サンプルに対して一貫して高い識別器スコアを示した。
• 識別器スコアそのものが高精度な異常検出に十分であり、追加の再構成損失や特徴マッチング損失の必要性がなかった。
• アーキテクチャの変更なしに、標準 GAN フレームワークへの損失関数の変更のみで、最先端の結果を達成した。