[论文解读] Variational Inference for On-line Anomaly Detection in High-Dimensional Time Series

Maximilian Sölch, Justin Bayer+2 more|arXiv (Cornell University)|Feb 18, 2016

Anomaly Detection Techniques and Applications参考文献 6被引用 51

一句话总结

本文提出一种基于随机循环网络（STORN）的变分推断方法，用于在离线和在线两种模式下检测高维时间序列数据中的异常。通过利用近似变分推断来建模复杂的时间和空间依赖关系，该方法在实时机器人传感器数据中实现了鲁棒的异常检测。

ABSTRACT

Approximate variational inference has shown to be a powerful tool for modeling unknown complex probability distributions. Recent advances in the field allow us to learn probabilistic models of sequences that actively exploit spatial and temporal structure. We apply a Stochastic Recurrent Network (STORN) to learn robot time series data. Our evaluation demonstrates that we can robustly detect anomalies both off- and on-line.

研究动机与目标

• 解决从机器人中获取的高维、序列化传感器数据中检测异常的挑战。
• 开发一种可扩展且高效的在线异常检测方法，能够适应不断变化的数据模式。
• 利用深度概率建模，挖掘时间序列中的时间与空间结构。
• 在无需标注异常样本的情况下，实现鲁棒的异常检测。
• 展示变分推断在从流式数据中学习复杂、结构化分布方面的有效性。

提出的方法

• 该方法采用随机循环网络（STORN）来建模高维时间序列中的序列依赖关系。
• 使用变分推断来近似潜变量的真实后验分布，从而实现高效的学习与推理。
• 该模型学习一种结构化的概率表示，能够捕捉数据中的空间相关性与时间动态。
• 推理以在线方式执行，支持在新数据到达时实时进行异常检测。
• 该方法使用随机梯度优化，在流式数据上端到端训练模型。
• 通过测量新观测值在已学习模型下的似然性来检测异常。

实验结果

研究问题

• RQ1 使用STORN的变分推断能否有效建模具有时间与空间结构的复杂高维时间序列？
• RQ2 所提出的方法在流式机器人传感器数据上实时检测异常的效果如何？
• RQ3 该方法是否能在无需标注异常样本的情况下泛化到未见过的异常模式？
• RQ4 在检测准确率与计算效率方面，该模型的性能与现有方法相比如何？
• RQ5 在在线设置中，该模型能否适应概念漂移和不断变化的数据分布？

主要发现

• 所提出的方法在真实机器人时间序列数据的离线与在线设置中均实现了鲁棒的异常检测。
• 该模型有效捕捉了高维传感器流中的复杂时间与空间依赖关系。
• 变分推断实现了高效的在线推理，使实时检测成为可能。
• 该方法无需事先了解异常行为或使用异常样本即可检测异常。
• 该方法在检测流式数据中先前未见过的异常模式方面表现出色。
• 结合STORN与变分推断，实现了对复杂序列数据分布的可扩展且精确的建模。