[论文解读] TadGAN: Time Series Anomaly Detection Using Generative Adversarial Networks

Alexander Geiger, Dongyu Liu+3 more|arXiv (Cornell University)|Sep 16, 2020

Anomaly Detection Techniques and Applications被引用 4

一句话总结

TadGAN 提出了一种基于 GAN 的无监督时间序列异常检测框架，采用基于 LSTM 的生成器和判别器，并通过循环一致性与重构误差计算进行增强。通过将判别器输出与基于窗口的重构误差相乘，该方法在 11 个数据集上实现了最高的平均 F1 分数，显著降低了误报率。

ABSTRACT

Time series anomalies can offer information relevant to critical situations facing various fields, from finance and aerospace to the IT, security, and medical domains. However, detecting anomalies in time series data is particularly challenging due to the vague definition of anomalies and said data's frequent lack of labels and highly complex temporal correlations. Current state-of-the-art unsupervised machine learning methods for anomaly detection suffer from scalability and portability issues, and may have high false positive rates. In this paper, we propose TadGAN, an unsupervised anomaly detection approach built on Generative Adversarial Networks (GANs). To capture the temporal correlations of time series distributions, we use LSTM Recurrent Neural Networks as base models for Generators and Critics. TadGAN is trained with cycle consistency loss to allow for effective time-series data reconstruction. We further propose several novel methods to compute reconstruction errors, as well as different approaches to combine reconstruction errors and Critic outputs to compute anomaly scores. To demonstrate the performance and generalizability of our approach, we test several anomaly scoring techniques and report the best-suited one. We compare our approach to 8 baseline anomaly detection methods on 11 datasets from multiple reputable sources such as NASA, Yahoo, Numenta, Amazon, and Twitter. The results show that our approach can effectively detect anomalies and outperform baseline methods in most cases (6 out of 11). Notably, our method has the highest averaged F1 score across all the datasets. Our code is open source and is available as a benchmarking tool.

研究动机与目标

• 解决在缺乏标注数据和复杂时间相关性情况下的无监督时间序列异常检测挑战。
• 通过将 GAN 与基于重构的异常评分相结合，克服现有深度学习方法在高误报率和泛化能力差方面的局限性。
• 通过将判别器输出与多种重构误差类型（逐点式、基于窗口）通过乘法结合，提升异常检测的鲁棒性。
• 建立一个模块化、开源的基准测试框架，用于评估时间序列异常检测方法。
• 证明后处理阶段对重构信号与对抗信号的融合可实现优于单独依赖任一组件的性能。

提出的方法

• 使用基于 LSTM 的生成器和判别器来建模时间序列数据中的时间依赖性。
• 实施循环一致性损失以提高重构保真度并确保时间一致性。
• 采用逐点式和基于窗口的两种方法计算重构误差，其中动态时间规整（DTW）表现更优。
• 通过乘法操作融合判别器分数与重构误差，从而增强高异常分数并提升稳定性。
• 采用模块化设计，可与任何基于重构的时间序列模型集成。
• 应用多阶段异常评分流程：通过生成器重构输入，计算判别器误差，并融合得分以实现最终异常检测。

实验结果

研究问题

• RQ1 基于 GAN 的框架能否有效检测无标签时间序列数据中的点异常和集体异常？
• RQ2 将重构误差与判别器输出结合，相比单独使用任一方法，能否显著提升异常检测性能？
• RQ3 在重构误差计算方法中，逐点式与基于窗口的方法，哪种能带来更鲁棒和准确的异常检测？
• RQ4 与凸组合相比，重构与判别器分数的乘法操作是否在 F1 分数和稳定性方面表现更优？
• RQ5 TadGAN 是否能在航空航天、金融和云计算等不同领域的多样化真实世界数据集中实现良好泛化？

主要发现

• TadGAN 在全部 11 个数据集上实现了最高的平均 F1 分数（0.629），优于所有 8 个基线方法。
• 判别器分数与基于窗口的重构误差（特别是 DTW）的结合取得了最佳性能，F1 分数达 0.629。
• 重构与判别器分数的乘法操作在所有数据集上均显著优于凸组合，实现了更高的 F1 分数和更低的标准差。
• 仅使用判别器分数时，某些数据集（如 A4、A3）表现出高方差和较差性能，平均 F1 仅为 0.393。
• 在 MSL 数据集上，仅基于窗口的重构误差（DTW）的 F1 分数为 0.514，而融合得分达到 0.623。
• TadGAN 在 11 个数据集中的 6 个上优于基线方法，展现出强大的泛化能力和鲁棒性。