[论文解读] Online Time Series Anomaly Detection with State Space Gaussian Processes

Christian Bock, François-Xavier Aubet+4 more|arXiv (Cornell University)|Jan 18, 2022

Anomaly Detection Techniques and Applications被引用 6

一句话总结

该论文提出r-ssGPFA，一种基于正交因子载荷约束的状态空间高斯过程的高效、可解释的在线异常检测方法，适用于单变量和多变量时间序列。其在SMD数据集上达到73.15的F1分数，仅使用236个参数，且每一点的推理时间低至0.78毫秒，性能优于深度学习基线模型，在速度和鲁棒性方面表现更优，同时可实现将异常归因于潜在分量。

ABSTRACT

We propose r-ssGPFA, an unsupervised online anomaly detection model for uni- and multivariate time series building on the efficient state space formulation of Gaussian processes. For high-dimensional time series, we propose an extension of Gaussian process factor analysis to identify the common latent processes of the time series, allowing us to detect anomalies efficiently in an interpretable manner. We gain explainability while speeding up computations by imposing an orthogonality constraint on the mapping from the latent to the observed. Our model's robustness is improved by using a simple heuristic to skip Kalman updates when encountering anomalous observations. We investigate the behaviour of our model on synthetic data and show on standard benchmark datasets that our method is competitive with state-of-the-art methods while being computationally cheaper.

研究动机与目标

• 开发一种计算高效、无监督的在线时间序列异常检测方法，能够扩展至高维数据。
• 通过受约束的因子分析识别异常在潜在分量中的来源，提升多变量异常检测的可解释性。
• 利用卡尔曼滤波启发式方法，在推理过程中跳过异常观测的更新，增强对异常观测的鲁棒性。
• 在极少数模型参数和极低推理延迟下实现具有竞争力的检测性能，适用于边缘设备部署。
• 通过将异常归因于特定潜在过程或噪声分量，实现可解释性。

提出的方法

• 采用状态空间高斯过程（ssGP）形式化，实现在多变量时间序列中线性时间推理，避免昂贵的核矩阵求逆。
• 将高斯过程因子分析（GPFA）扩展至状态空间框架，将观测时间序列建模为潜在过程的线性组合。
• 对因子载荷矩阵施加正交性约束，以解耦潜在过程，提升可解释性和计算效率。
• 采用鲁棒的卡尔曼滤波启发式方法，在检测到异常观测时跳过更新，减少模型漂移，提升稳定性。
• 在状态空间表示中使用标准GP核函数（如Matérn、Cosine），以捕捉复杂的时间动态和周期性。
• 异常得分基于预测对数似然值，当似然值低于阈值时标记为异常。

实验结果

研究问题

• RQ1 状态空间GP形式化是否能够实现多变量时间序列异常检测的高效线性时间推理？
• RQ2 对因子载荷矩阵施加正交性约束，对可解释性和计算速度有何影响？
• RQ3 对异常点跳过卡尔曼更新的简单启发式方法，是否能在不损失检测性能的前提下提升鲁棒性？
• RQ4 与基于深度学习和启发式方法的异常检测模型相比，该方法在F1分数、推理速度和参数效率方面表现如何？
• RQ5 在多大程度上可以将异常有意义地归因于特定潜在分量或噪声过程？

主要发现

• 在SMD基准上，r-ssGPFA仅使用236个参数，每时间点推理时间为0.78毫秒，F1分数达到73.15，推理速度优于RRCF，参数效率优于DAGMM。
• 在MSL数据集上，r-ssGPFA取得94.03的F1分数，展现出在复杂多变量时间序列上的强大性能，具有高精度和高召回率。
• 在单变量NAB基准上，非鲁棒版本ssGP取得90.18的F1分数，优于RRCF（82.93），尽管架构更简单，仍表现出强大的泛化能力。
• r-ssGPFA在NAB上的性能有所下降，作者归因于存在‘异常窗口’，即正常点被错误标记为异常，影响了F1计算。
• 在9条时间序列中的7条上，r-ssGPFA优于SGP-Q，中位F1提升达3.60，证实其在更简单设计下仍具有效性。
• 该方法在所有评估模型中推理速度最快，每点仅需0.78毫秒，适用于实时和边缘设备部署。