[論文レビュー] Remaining Useful Life Prediction Using Temporal Deep Degradation Network for Complex Machinery with Attention-based Feature Extraction

Yuwen Qin, Ningbo Cai+4 more|arXiv (Cornell University)|Feb 21, 2022

Reliability and Maintenance Optimization被引用数 6

ひとこと要約

本稿では、1次元畳み込みニューラルネットワーク（1D CNN）を用いた時系列特徴抽出とアテンションメカニズムを統合したエンドツーエンドの深層学習フレームワーク、時系列深層劣化ネットワーク（TDDN）を提案する。この手法は、C-MAPSSデータセットにおいて、モノトニックな劣化傾向を学習し、適応的アテンション重みを通じて重要な故障特性に注目することで、ターボファンエンジンのRUL予測において最先端の精度を達成する。

ABSTRACT

The precise estimate of remaining useful life (RUL) is vital for the prognostic analysis and predictive maintenance that can significantly reduce failure rate and maintenance costs. The degradation-related features extracted from the sensor streaming data with neural networks can dramatically improve the accuracy of the RUL prediction. The Temporal deep degradation network (TDDN) model is proposed to make the RUL prediction with the degradation-related features given by the one-dimensional convolutional neural network (1D CNN) feature extraction and attention mechanism. 1D CNN is used to extract the temporal features from the streaming sensor data. Temporal features have monotonic degradation trends from the fluctuating raw sensor streaming data. Attention mechanism can improve the RUL prediction performance by capturing the fault characteristics and the degradation development with the attention weights. The performance of the TDDN model is evaluated on the public C-MAPSS dataset and compared with the existing methods. The results show that the TDDN model can achieve the best RUL prediction accuracy in complex conditions compared to current machine learning models. The degradation-related features extracted from the high-dimension sensor streaming data demonstrate the clear degradation trajectories and degradation stages that enable TDDN to predict the turbofan-engine RUL accurately and efficiently.

研究の動機と目的

• ノイズが多く高次元なセンサデータ下での複雑な機械装置における正確なRUL予測の課題に対処すること。
• 劣化傾向と故障特性を捉えることで、生のセンサストリーミングデータからの特徴抽出を向上させること。
• 予測性能を向上させるために、重要な劣化段階に動的重みを割り当てる深層学習モデルの開発。
• 専門家が定義する健康指標に依存することを最小限に抑え、複雑な運用条件下でも頑健なRUL予測を可能にすること。
• 分散産業応用におけるデータプライバシー保護を支援するため、フェデレーテッドラーニングとの統合によるプライバシー保護型展開を可能にすること。

提案手法

• 生のセンサデータに1次元畳み込みニューラルネットワーク（1D CNN）を適用し、モノトニックな劣化傾向を反映する時系列特徴を抽出する。
• 移動ウィンドウ戦略を用いて時系列センサデータを処理し、劣化段階にわたる局所的特徴学習を可能にする。
• アテンションメカニズムが抽象的特徴の動的重みを計算し、劣化発展に最も関連する特徴に注目する。
• アテンション重みはエンドツーエンドで学習され、予測時に重要な故障パターンに焦点を当てる。
• TDDNフレームワークは、1D CNNとアテンションモジュールを統合した一貫したアーキテクチャを採用し、共同最適化を実現する。
• ハイパーパramータ（例：ウィンドウサイズ）を最適化するため、C-MAPSSデータセット上でエンドツーエンドでモデルを学習する。

実験結果

リサーチクエスチョン

• RQ1 深層学習モデルは、高次元でノイズの多いセンサストリーミングデータから劣化関連特徴を効果的に抽出できるか？
• RQ2 時系列劣化において、アテンションメカニズムが故障特性に注目することでRUL予測がどのように向上するか？
• RQ3 移動ウィンドウサイズが複雑な機械における劣化進化の捉え方に与える影響は何か？
• RQ4 TDDNモデルは、ベンチマークデータセット上でのRUL予測精度において、既存の深層学習手法と比較してどのように差をつけるか？
• RQ5 TDDNフレームワークは、分散産業環境におけるデータプライバシー保護を目的としてフェデレーテッドラーニング環境へ拡張可能か？

主な発見

• TDDNモデルは、C-MAPSSデータセット上での既存の深層学習手法の中で、最高のRUL予測精度を達成した。
• アテンション重みは劣化段階に応じて意味的に変化し、特に深刻な故障発展を反映する特徴に一貫して高い値が割り当てられた。
• 1D CNNは、変動する生のセンサデータからモノトニックな劣化傾向を効果的に抽出し、特徴表現を向上させた。
• アテンションメカニズムは、特に初期および中間劣化段階において、重要な故障特性を的確に同定し強調した。
• C-MAPSSデータセットに含まれる異なるエンジンタイプにおいて一貫した性能を示したため、変動する運用条件下でもモデルの頑健性が確認された。
• 感度分析により、移動ウィンドウサイズが劣化ダイナミクスの捉え方に対するモデルの能力に顕著な影響を与えることが確認された。