[论文解读] Adversarially Learned Anomaly Detection

Houssam Zenati, Manon Romain+3 more|arXiv (Cornell University)|Dec 6, 2018

Anomaly Detection Techniques and Applications参考文献 35被引用 23

一句话总结

本文提出对抗性学习异常检测（ALAD），一种基于生成对抗网络（GAN）的方法，采用双向GAN架构并结合编码器，以学习用于异常检测的对抗性训练特征。通过利用这些特征和重建误差，ALAD在图像和表格数据集上实现了最先进性能，且推理速度比以往基于GAN的方法快数百倍。

ABSTRACT

Anomaly detection is a significant and hence well-studied problem. However, developing effective anomaly detection methods for complex and high-dimensional data remains a challenge. As Generative Adversarial Networks (GANs) are able to model the complex high-dimensional distributions of real-world data, they offer a promising approach to address this challenge. In this work, we propose an anomaly detection method, Adversarially Learned Anomaly Detection (ALAD) based on bi-directional GANs, that derives adversarially learned features for the anomaly detection task. ALAD then uses reconstruction errors based on these adversarially learned features to determine if a data sample is anomalous. ALAD builds on recent advances to ensure data-space and latent-space cycle-consistencies and stabilize GAN training, which results in significantly improved anomaly detection performance. ALAD achieves state-of-the-art performance on a range of image and tabular datasets while being several hundred-fold faster at test time than the only published GAN-based method.

研究动机与目标

• 解决在图像和表格数据等复杂高维数据中检测异常的挑战。
• 克服现有基于GAN的异常检测方法在测试时需要优化而导致的计算效率低下问题。
• 利用近期架构进展，提升GAN在异常检测中的训练稳定性和特征质量。
• 开发一种方法，实现在测试时快速、前馈式推理，同时保持高检测准确率。

提出的方法

• 采用双向GAN框架，在训练阶段联合训练生成器、判别器和编码器。
• 利用编码器将输入数据直接映射到潜在空间，实现在测试时通过单次前向传播完成快速推理。
• 引入重建判别器，用于评估原始样本与重建样本在特征空间中的相似性。
• 基于判别器中间层中真实特征与重建特征之间差异的L1范数计算异常分数。
• 应用谱归一化，并在潜在空间中引入额外判别器，以稳定GAN训练并提升特征质量。
• 在数据空间与潜在空间之间强制执行循环一致性，以确保有意义的重建和鲁棒的特征学习。

实验结果

研究问题

• RQ1 基于GAN的异常检测方法是否能在实现最先进性能的同时，实现快速推理，避免在测试时进行迭代优化？
• RQ2 对抗性学习特征在异常检测性能上与传统重建误差（L1、L2）或判别器logits相比如何？
• RQ3 谱归一化和辅助判别器等训练稳定器在多大程度上提升了异常检测性能？
• RQ4 引入潜在空间判别器和循环一致性约束是否能提升特征质量和检测准确率？

主要发现

• 在CIFAR-10数据集上，ALAD的AUROC达到0.6072 ± 0.1201，在SVHN数据集上达到0.5753 ± 0.0268，优于基线GAN方法及其他基于重建的方法。
• 在KDD99和Arrhythmia表格数据集上，基于对抗性学习特征的异常分数分别取得0.9501 ± 0.0018和0.5152 ± 0.0214的F1分数，优于基于L1、L2和logits的分数。
• 谱归一化和潜在空间判别器的使用显著提升了SVHN和CIFAR-10上的性能，其中谱归一化的影响最为显著。
• 由于消除了对迭代潜在代码优化的需求，ALAD在测试时的速度比唯一可比的基于GAN的方法（AnoGAN）快数百倍。
• 消融实验表明，重建判别器和潜在空间判别器均对性能提升有显著贡献，尤其在图像数据上表现突出。
• 该方法在不同数据模态间具有良好的泛化能力，在高维图像和表格数据上均表现出色。