[論文レビュー] Perturbation Learning Based Anomaly Detection

Jinyu Cai, Jicong Fan|arXiv (Cornell University)|Jun 6, 2022

Anomaly Detection Techniques and Applications被引用数 11

ひとこと要約

本稿では、正規データを敵対的例に変換する最小限の摂動を学習するための摂動学習ベースの異常検出（PLAD）という、新たな教師なし異常検出手法を提案する。この手法は、摂動生成器と分類器を同時に学習させることで、正規データと異常データの間の意思決定境界を、データ分布に関する事前仮定を一切用いずに学習可能である。PLADは、従来の手法と比較してより少ないハイパーパrameter数と低い計算コストで、画像および表形式データの両方で最先端の性能を達成している。

ABSTRACT

This paper presents a simple yet effective method for anomaly detection. The main idea is to learn small perturbations to perturb normal data and learn a classifier to classify the normal data and the perturbed data into two different classes. The perturbator and classifier are jointly learned using deep neural networks. Importantly, the perturbations should be as small as possible but the classifier is still able to recognize the perturbed data from unperturbed data. Therefore, the perturbed data are regarded as abnormal data and the classifier provides a decision boundary between the normal data and abnormal data, although the training data do not include any abnormal data. Compared with the state-of-the-art of anomaly detection, our method does not require any assumption about the shape (e.g. hypersphere) of the decision boundary and has fewer hyper-parameters to determine. Empirical studies on benchmark datasets verify the effectiveness and superiority of our method.

研究の動機と目的

• 正規データの分布の形状や構造に関する仮定に依存しない新しい異常検出手法の開発。
• 従来の深層異常検出手法と比較して必要なハイパーパrameter数を削減すること。
• 訓練データに正規データのみが利用可能な教師なし設定でも効果的な異常検出を可能にすること。
• 多クラスの正規データや非画像の表形式データを含む複雑なデータに対しても一般化性能を向上させること。

提案手法

• PLADは、正規データを敵対的例に変換する最小で目立たない摂動を生成する摂動生成器を学習する。
• 分類器は、元の正規データと摂動を加えたデータを区別するように共同で学習され、効果的に意思決定境界を学習する。
• 深層ニューラルネットワークを用いて、エンドツーエンドの誤差逆伝播により摂動生成器と分類器を同時に最適化する。
• 摂動が小さくなるように正則化損失を用いることで、摂動が最小限でありながらも判別可能であることを保証する。
• 本手法は、正規データの多様体から逸脱するようなデータポイントを、暗黙的に異常データと定義する。
• CNN、RNN、GNN、トランスフォーマーを含むさまざまな深層アーキテクチャと互換性があり、多様なデータタイプに対応可能である。

実験結果

リサーチクエスチョン

• RQ1 正規データの多様体に特定の形状（例：超球）を仮定しない深層学習ベースの異常検出手法を開発可能か？
• RQ2 正規データのみから最小摂動を効果的に学習し、頑健な意思決定境界を構築可能か？
• RQ3 PLADは、画像および表形式データの両方で、より少ないハイパーパrameter数で最先端の手法を上回るか？
• RQ4 正規データに複数のラベルなしクラスが含まれる場合、PLADの一般化性能はどの程度か？

主な発見

• Thyroidデータセットでは、PLADが76.6% ± 0.6のF1スコアを達成し、NeuTraL AD や GOCCを含むすべてのベースラインを上回った。
• Arrhythmiaデータセットでは、PLADが71.0% ± 1.7のF1スコアを達成し、2位の手法を9.2ポイント上回った。
• 多クラス正規データ検出において、CIFAR-10では72.7% ± 1.9のAUC、Fashion-MNISTでは75.3% ± 2.8のAUCを達成し、DSVDDをそれぞれ9.1%および4.4%上回った。
• PLADは画像および表形式データの両方で優れた性能を示し、データタイプを越えた強力な一般化性能を示した。
• DROCC や GOAD、DSVDD などの手法と比較して、より少ないハイパーパrameter数と低い計算コストで最先端の結果を達成した。