[论文解读] Remaining Useful Life Prediction Using Temporal Deep Degradation Network for Complex Machinery with Attention-based Feature Extraction

Yuwen Qin, Ningbo Cai+4 more|arXiv (Cornell University)|Feb 21, 2022

Reliability and Maintenance Optimization被引用 6

一句话总结

本文提出Temporal Deep Degradation Network（TDDN），一种端到端的深度学习框架，结合一维卷积神经网络（1D CNN）进行时序特征提取与注意力机制，以提升涡轮风扇发动机的剩余使用寿命（RUL）预测性能。该方法通过学习单调退化趋势并利用自适应注意力权重聚焦关键故障特征，在C-MAPSS数据集上实现了最先进（SOTA）的预测精度。

ABSTRACT

The precise estimate of remaining useful life (RUL) is vital for the prognostic analysis and predictive maintenance that can significantly reduce failure rate and maintenance costs. The degradation-related features extracted from the sensor streaming data with neural networks can dramatically improve the accuracy of the RUL prediction. The Temporal deep degradation network (TDDN) model is proposed to make the RUL prediction with the degradation-related features given by the one-dimensional convolutional neural network (1D CNN) feature extraction and attention mechanism. 1D CNN is used to extract the temporal features from the streaming sensor data. Temporal features have monotonic degradation trends from the fluctuating raw sensor streaming data. Attention mechanism can improve the RUL prediction performance by capturing the fault characteristics and the degradation development with the attention weights. The performance of the TDDN model is evaluated on the public C-MAPSS dataset and compared with the existing methods. The results show that the TDDN model can achieve the best RUL prediction accuracy in complex conditions compared to current machine learning models. The degradation-related features extracted from the high-dimension sensor streaming data demonstrate the clear degradation trajectories and degradation stages that enable TDDN to predict the turbofan-engine RUL accurately and efficiently.

研究动机与目标

• 解决在噪声大、高维传感器数据下复杂机械系统中准确RUL预测的挑战。
• 通过捕捉退化趋势与故障特征，提升从原始传感器流数据中提取特征的能力。
• 开发一种深度学习模型，动态加权关键退化阶段，以提升预测性能。
• 在复杂运行条件下实现鲁棒的RUL预测，且对专家定义的健康指标依赖性最小化。
• 通过与联邦学习集成，支持隐私保护型部署，适用于分布式工业应用场景。

提出的方法

• 应用一维卷积神经网络（1D CNN）于原始传感器数据，以提取反映单调退化趋势的时序特征。
• 采用滑动窗口策略处理序列化传感器数据，实现在退化各阶段的局部特征学习。
• 注意力机制计算抽象特征的动态权重，突出对退化发展最相关的特征。
• 注意力权重通过端到端方式学习，使模型在预测过程中聚焦于关键故障模式。
• TDDN框架将一维卷积神经网络与注意力模块整合为统一架构，实现联合优化。
• 模型在C-MAPSS数据集上进行端到端训练，超参数如窗口大小经调优以实现最佳性能。

实验结果

研究问题

• RQ1 深度学习模型能否有效从高维、噪声大的传感器流数据中提取与退化相关的特征？
• RQ2 注意力机制如何通过聚焦时间序列退化中的关键故障特征，提升RUL预测性能？
• RQ3 滑动窗口大小对捕捉复杂机械系统退化演化的影晌如何？
• RQ4 在基准数据集上，TDDN模型相较于现有深度学习方法在RUL预测精度方面表现如何？
• RQ5 TDDN框架能否扩展至联邦学习设置，以在分布式工业环境中保护数据隐私？

主要发现

• 在C-MAPSS数据集上，TDDN模型在现有深度学习方法中实现了最佳的RUL预测精度。
• 注意力权重在退化各阶段中具有有意义的演化，始终对反映关键故障发展的特征赋予较高值。
• 一维卷积神经网络（1D CNN）能有效从波动的原始传感器数据中提取单调退化趋势，改善特征表示。
• 注意力机制成功识别并强调关键故障特征，尤其在退化初期与中期表现显著。
• 模型在不同运行条件下表现出鲁棒性，C-MAPSS数据集中各类发动机的性能保持一致。
• 敏感性分析表明，滑动窗口大小显著影响模型捕捉退化动态的能力。