[論文レビュー] DOPING: Generative Data Augmentation for Unsupervised Anomaly Detection with GAN

Swee Kiat Lim, Yi Loo+4 more|arXiv (Cornell University)|Aug 23, 2018

Anomaly Detection Techniques and Applications被引用数 7

ひとこと要約

本稿では、敵対的オートエンコーダー（AAE）を用いて、まれな正常サンプルを生成することで、異常検出の性能を向上させる、未学習のデータ拡張手法DOPINGを提案する。高次元の多モーダルなデータを、尾部が明確に定義された単一モードの潜在空間に変換することで、この空間の端縁部にわたり戦略的なオーバーサンプリングを実施し、誤検出を低減する。ラベルを一切必要とせず、多様な実世界のデータセットで最先端の性能を達成する。

ABSTRACT

Recently, the introduction of the generative adversarial network (GAN) and its variants has enabled the generation of realistic synthetic samples, which has been used for enlarging training sets. Previous work primarily focused on data augmentation for semi-supervised and supervised tasks. In this paper, we instead focus on unsupervised anomaly detection and propose a novel generative data augmentation framework optimized for this task. In particular, we propose to oversample infrequent normal samples - normal samples that occur with small probability, e.g., rare normal events. We show that these samples are responsible for false positives in anomaly detection. However, oversampling of infrequent normal samples is challenging for real-world high-dimensional data with multimodal distributions. To address this challenge, we propose to use a GAN variant known as the adversarial autoencoder (AAE) to transform the high-dimensional multimodal data distributions into low-dimensional unimodal latent distributions with well-defined tail probability. Then, we systematically oversample at the `edge' of the latent distributions to increase the density of infrequent normal samples. We show that our oversampling pipeline is a unified one: it is generally applicable to datasets with different complex data distributions. To the best of our knowledge, our method is the first data augmentation technique focused on improving performance in unsupervised anomaly detection. We validate our method by demonstrating consistent improvements across several real-world datasets.

研究の動機と目的

• 未学習の異常検出における高い誤検出率、特に特徴が不十分に把握されたまれな正常サンプルに起因する問題を解決すること。
• 分類ラベルに依存しないデータ拡張フレームワークを構築し、異常検出の性能を向上させること。
• 高次元かつ多モーダルなデータ分布において、まれな正常サンプルを生成する課題を克服すること。
• 複雑でガウス分布に従わないデータ分布を示す多様なデータセットにわたる統一的なデータ拡張を実現すること。

提案手法

• 全訓練セットに対してラベルなしの敵対的オートエンコーダー（AAE）を学習させ、高次元のデータを多次元正規分布事前分布を持つ低次元の潜在空間にマッピングする。
• AAEの潜在空間を用いて、複雑で多モーダルなデータ分布を、尾部の確率が明確に定義された単一モードの分布に変換する。
• 潜在分布の端縁部にわたり体系的なオーバーサンプリングを実施し、合成されたまれな正常サンプルを生成する。
• 潜在空間における端縁部のサンプリングを適用し、誤分類されやすい低確率の正常インスタンスに焦点を当てる。
• 潜在空間からのデコードにより、現実的で合成された正常サンプルが生成され、正常分布の未代表的領域における密度が向上する。
• 生成されたサンプルを訓練セットに統合することで、異常検出器がまれな正常イベントと異常を区別する能力を向上させる。

実験結果

リサーチクエスチョン

• RQ1 まれな正常サンプルに対する標的的なデータ拡張が、未学習の異常検出における誤検出率を低減できるか？
• RQ2 分類ラベルなしで、高次元かつ多モーダルなデータ分布において、効果的にまれな正常サンプルを生成できるか？
• RQ3 AAEによる単一モードの潜在空間が、異常検出モデルの一般化性能およびロバストネスを向上させるか？
• RQ4 複雑なデータ分布を示す多様な実世界のデータセットにわたる、統一的かつラベルフリーのデータ拡張戦略は有効か？
• RQ5 ラベルなしの環境下で、DOPINGはSMOTE や INOS といった標準的手法と比較してどのように異なるか？

主な発見

• DOPINGは、全テストデータセットにおいてF1スコアとG-measureを一貫して向上させ、ベースラインのiForestおよび他の拡張手法を上回った。
• ママグラフィー・データセットでは、F1スコアが0.787、G-measureが0.807を達成し、データセットの複雑さにもかかわらず優れた性能を示した。
• 甲状腺疾患データセットでは、F1スコアが0.754、G-measureが0.775を達成し、低汚染度の表形式データに対しても有効であることが示された。
• リンパ球データセットでは、F1スコアが0.665、G-measureが0.750を達成し、まれな正常パターンの検出が向上した。
• AUC対l²-ノルムのトレンドが全データセットで一貫しており、本手法が低密度領域に位置するサンプルを特定・生成できる能力を裏付けた。
• DOPINGは、まれな正常サンプルの密度を向上させることで誤検出を低減した。これらのサンプルは、そうでなければ異常と誤って分類される。