[论文解读] Autoencoders and Generative Adversarial Networks for Anomaly Detection for Sequences.

Stephanie Ger, Diego Klabjan|arXiv (Cornell University)|Jan 8, 2019

Anomaly Detection Techniques and Applications参考文献 17被引用 9

一句话总结

本文提出使用自编码器和生成对抗网络（GANs）生成合成的、结构保持的序列，用于多特征时间序列数据中的异常检测。通过利用自编码器和GANs对少数类（异常）进行合成过采样，并利用GANs建模多数类以实现新颖性检测，该方法在多个序列数据集上显著提升了下游分类性能。

ABSTRACT

We introduce synthetic oversampling in anomaly detection for multi-feature sequence datasets based on autoencoders and generative adversarial networks. The first approach considers the use of an autoencoder in conjunction with standard oversampling methods to generate synthetic data that captures the sequential nature of the data. A different model uses generative adversarial networks to generate structure preserving synthetic data for the minority class. We also use generative adversarial networks on the majority class as an outlier detection method for novelty detection. We show that the use of generative adversarial network based synthetic data improves classification model performance on a variety of sequence data sets.

研究动机与目标

• 通过生成合成的少数类序列，解决多特征序列异常检测中的类别不平衡问题。
• 在合成序列生成过程中保持时间与结构关系，以提升模型泛化能力。
• 探索基于GAN的方法生成少数类与多数类序列，以增强异常检测效果。
• 评估基于GAN和自编码器的合成数据对序列异常检测中分类性能的影响。
• 提供一种可扩展的生成式数据增强方法，保持序列完整性，适用于异常检测。

提出的方法

• 在完整序列数据上训练自编码器，以学习输入序列的压缩且有意义的表示。
• 对训练好的自编码器的潜在空间应用标准过采样技术，以生成合成的少数类序列。
• 训练一个条件GAN，以生成保留原始数据结构和序列特征的合成序列。
• 利用GAN生成少数类的合成数据，确保生成序列在语义和时间上的一致性。
• 单独训练一个GAN以学习多数类的分布，从而通过识别显著偏离学习分布的样本实现新颖性检测。
• 将两种方法生成的合成序列用于训练集增强，从而提升下游分类模型的性能。

实验结果

研究问题

• RQ1 基于自编码器的潜在空间过采样能否提升在类别不平衡序列数据集上的异常检测性能？
• RQ2 GAN生成的合成序列在多大程度上保持了真实数据的结构和序列特性？
• RQ3 使用GAN建模多数类是否能增强新颖性检测能力？
• RQ4 基于GAN的合成数据增强与传统过采样方法在序列异常检测中相比如何？
• RQ5 生成模型能否有效缓解少数异常类的数据稀缺问题，同时保持序列完整性？

主要发现

• 基于GAN的合成数据生成显著提升了多个序列数据集上分类模型的性能。
• 通过GAN生成的合成序列保留了真实数据的结构和序列特性，从而实现了更好的泛化能力。
• 在潜在空间中基于自编码器的过采样相比基线方法，能更有效地检测异常序列。
• 通过GAN建模多数类，能够有效识别分布外样本，实现新颖性检测。
• 自编码器与GAN结合的数据增强方法在序列异常检测任务中，性能优于标准过采样技术。
• 所提出方法在多样化序列数据集上均表现出一致的性能提升，表明其具备鲁棒性与可扩展性。