[论文解读] An LSTM-Based Predictive Monitoring Method for Data with Time-varying Variability

Jiaqi Qiu, Yu Lin+1 more|arXiv (Cornell University)|Sep 5, 2023

Fault Detection and Control SystemsEngineering被引用 3

一句话总结

本文提出了一种基于LSTM的预测性监控方法，通过显式建模数据不确定性来使用预测区间检测具有时变可变性的时间序列数据中的异常。该方法在无标签数据上进行训练，并量化动态方差，在均值漂移检测方面优于现有的基于神经网络的方法，尤其是在非平稳噪声条件下表现更优。

ABSTRACT

The recurrent neural network and its variants have shown great success in processing sequences in recent years. However, this deep neural network has not aroused much attention in anomaly detection through predictively process monitoring. Furthermore, the traditional statistic models work on assumptions and hypothesis tests, while neural network (NN) models do not need that many assumptions. This flexibility enables NN models to work efficiently on data with time-varying variability, a common inherent aspect of data in practice. This paper explores the ability of the recurrent neural network structure to monitor processes and proposes a control chart based on long short-term memory (LSTM) prediction intervals for data with time-varying variability. The simulation studies provide empirical evidence that the proposed model outperforms other NN-based predictive monitoring methods for mean shift detection. The proposed method is also applied to time series sensor data, which confirms that the proposed method is an effective technique for detecting abnormalities.

研究动机与目标

• 解决具有时变可变性的传感器数据中异常检测的挑战，因为传统控制图和统计模型由于严格的平稳性假设而无法处理此类问题。
• 通过直接在无标签时间序列数据上训练LSTM模型，并使用下一步预测作为监督信号，克服深度学习异常检测对标签数据的依赖。
• 开发一种实时预测性监控框架，显式建模数据不确定性，以适应噪声水平的变化，从而在动态环境中提高检测的鲁棒性。
• 在模拟数据和真实世界传感器数据上验证该方法的有效性，特别是在标签数据不可用或不可靠的情况下。
• 在非平稳可变性条件下，证明其在检测均值漂移方面优于现有基于神经网络的监控方法。

提出的方法

• 训练单变量LSTM模型，使用过去观测序列作为输入来预测下一步时间点的值，从而无需标注异常数据。
• 引入数据不确定性量化模块，通过建模预测误差的方差来估计预测区间，从而实现自适应的检测阈值。
• 基于LSTM预测的均值和预测区间边界构建控制图，当观测值落在区间之外时触发失控信号。
• 通过第二个分支或辅助输出单独建模方差，以捕捉时变噪声特性，从而提高对异方差性的鲁棒性。
• 将该方法应用于真实世界的振动和自动扶梯传感器数据，证明其在无标签、非平稳数据的工业监控场景中的可用性。
• 使用CED（累积误差距离）、DR（检测率）和召回率等指标进行性能比较，并通过消融研究隔离不确定性建模的影响。

实验结果

研究问题

• RQ1 基于LSTM的预测性监控方法是否能比现有基于神经网络的方法更有效地检测具有时变可变性的时间序列数据中的均值漂移？
• RQ2 通过预测区间显式建模数据不确定性，与不估计方差的标准LSTM预测相比，是否能显著提升异常检测性能？
• RQ3 在工业传感器数据中常见的非平稳、高噪声环境中，该方法在减少误报和提升检测速度方面能达到何种程度？
• RQ4 该方法在不同随机种子和模拟设置下的表现如何，是否体现出稳定性与泛化能力？
• RQ5 该方法是否能有效应用于真实世界传感器数据，而无需依赖标注的训练样本？

主要发现

• 所提出的结合不确定性量化的LSTM方法在检测均值漂移方面显著优于基线模型，尤其在高AR(1)参数（如φ=0.9）条件下，当φ=0.9且δ=2.0时，消融模型B的CED绝对差异达13.3%。
• 当φ=0.9且δ=2.0时，该方法的检测率（DR）达到100%，而消融模型B仅达到94%。
• 在自动扶梯案例研究中，该方法成功检测到具有时变可变性的实际传感器数据中的异常，证实了其实际可用性和有效性。
• 消融研究证实，单独建模方差至关重要：移除该组件会导致性能显著下降，尤其在高噪声或非平稳环境下。
• 该方法在不同随机种子下保持稳定性能，多数指标变化低于5%，表明其在多样化模拟条件下的鲁棒性和可靠性。
• 当δ=2.0且φ=0.9时，该方法的召回率达到57.62%，优于RNN基线（42.61%）和消融模型，表明其在复杂可变性条件下的优越检测能力。