[论文解读] Anomaly detection with Wasserstein GAN

Ilyass Haloui, Jayant Gupta+1 more|arXiv (Cornell University)|Dec 6, 2018

Anomaly Detection Techniques and Applications参考文献 3被引用 6

一句话总结

本文提出一种带有编码器的Wasserstein GAN，用于时间序列数据的异常检测，利用生成器重建正常样本的能力，并通过重建误差检测异常。在UCI HAR数据集上，该方法实现了70%的AUPRC，表明该方法在多变量时间序列设置下达到了最先进性能。

ABSTRACT

Generative adversarial networks are a class of generative algorithms that have been widely used to produce state-of-the-art samples. In this paper, we investigate GAN to perform anomaly detection on time series dataset. In order to achieve this goal, a bibliography is made focusing on theoretical properties of GAN and GAN used for anomaly detection. A Wasserstein GAN has been chosen to learn the representation of normal data distribution and a stacked encoder with the generator performs the anomaly detection. W-GAN with encoder seems to produce state of the art anomaly detection scores on MNIST dataset and we investigate its usage on multi-variate time series.

研究动机与目标

• 探究使用生成对抗网络（GANs）在高维时间序列数据中进行异常检测的可行性。
• 评估带有编码器的Wasserstein GAN在多种数据集上的性能，包括二维多模态分布、MNIST以及多变量时间序列。
• 将基于重建误差的异常检测方法（利用生成器和编码器）与判别器组件进行对比。
• 识别能够提升异常检测性能的网络架构与训练策略选择，特别是在原始时间序列数据上的表现。

提出的方法

• 在正常时间序列数据上训练Wasserstein GAN（W-GAN），以学习数据的底层分布。
• 构建堆叠式编码器网络，将输入时间序列映射到潜在空间，从而通过生成器实现重建。
• 使用原始时间序列与重建时间序列之间的均方误差（MSE）作为异常得分。
• 应用递归图将时间序列表示为多通道图像，作为带有编码器的W-GAN的输入。
• 通过对抗损失和重建损失，联合训练生成器与编码器。
• 在测试数据上使用精确率-召回率曲线下方面积（AUPRC）评估性能，包括异常类别。

实验结果

研究问题

• RQ1 带有编码器的Wasserstein GAN能否有效检测多变量时间序列数据中的异常？
• RQ2 基于生成器与编码器的重建误差与判别器输出相比，在识别异常方面表现如何？
• RQ3 哪些架构选择（如使用一维卷积、批归一化等）能提升异常检测性能？
• RQ4 该模型在原始时间序列与转换表示（如递归图）上的表现如何？
• RQ5 潜在空间维度与先验分布对重建质量与异常检测准确率有何影响？

主要发现

• 当将'躺卧'活动作为异常时，带有编码器的W-GAN在UCI HAR数据集上实现了70%的AUPRC，表明该任务上性能优异。
• 生成器与编码器的重建误差提供了可靠的异常得分，异常样本的误差显著高于正常样本。
• 使用递归图将时间序列转换为多通道图像，提升了模型捕捉时间模式以进行异常检测的能力。
• GAN的判别器在检测异常方面表现较弱，而生成器与编码器在基于重建的检测中更为有效。
• 在生成器输入层前使用批归一化有助于编码器收敛，但其对潜在空间对齐的正式影响尚不明确。
• 当使用原始时间序列数据时，模型难以清晰分离异常与正常类别的重建误差，表明在未经特征工程的情况下直接处理原始输入存在局限性。