[論文レビュー] Two Birds with One Network: Unifying Failure Event Prediction and Time-to-failure Modeling

Karan Aggarwal, Onur Atan+4 more|arXiv (Cornell University)|Dec 18, 2018

Machine Fault Diagnosis Techniques参考文献 24被引用数 11

ひとこと要約

本論文は、生存分析（Deep Weibull-RNN）とマルチタスク学習（MTL-RNN）を用いて、残存耐用年数（RUL）と故障確率を統合的に予測するディープラーニングフレームワークを提案する。これらの手法は、両タスクにおいて一貫性があり、高い性能を発揮し、故障予測ではタスク特化型のベースラインを上回りながらも、RULの精度を維持する。

ABSTRACT

One of the key challenges in predictive maintenance is to predict the impending downtime of an equipment with a reasonable prediction horizon so that countermeasures can be put in place. Classically, this problem has been posed in two different ways which are typically solved independently: (1) Remaining useful life (RUL) estimation as a long-term prediction task to estimate how much time is left in the useful life of the equipment and (2) Failure prediction (FP) as a short-term prediction task to assess the probability of a failure within a pre-specified time window. As these two tasks are related, performing them separately is sub-optimal and might results in inconsistent predictions for the same equipment. In order to alleviate these issues, we propose two methods: Deep Weibull model (DW-RNN) and multi-task learning (MTL-RNN). DW-RNN is able to learn the underlying failure dynamics by fitting Weibull distribution parameters using a deep neural network, learned with a survival likelihood, without training directly on each task. While DW-RNN makes an explicit assumption on the data distribution, MTL-RNN exploits the implicit relationship between the long-term RUL and short-term FP tasks to learn the underlying distribution. Additionally, both our methods can leverage the non-failed equipment data for RUL estimation. We demonstrate that our methods consistently outperform baseline RUL methods that can be used for FP while producing consistent results for RUL and FP. We also show that our methods perform at par with baselines trained on the objectives optimized for either of the two tasks.

研究の動機と目的

• RUL推定と故障予測を別々のタスクとして訓練する際の不一致および最適でない性能の問題を解決する。
• 長期的なRULと短期的な故障確率の間の隠れた関係を活用することで、故障予測の性能を向上させる。
• 1つのモデルを用いてRULと故障確率を同時に予測することで、一貫性のある保守意思決定を可能にする。
• 事前学習や別々の埋め込みを必要とせず、故障していない装置のデータを効果的にRUL推定に活用する。
• 両タスクで高い性能を維持しつつ、RUL予測を故障予測に用いる際に見られる性能低下を回避する統合フレームワークを開発する。

提案手法

• Weibull分布を用いて故障までの時間をモデリングする生存分析に基づくRNN（Deep Weibull-RNN）を提案。ネットワークの出力が制約付き変換により形状母数および尺度母数をパrameter化する。
• 故障時間分布の下位にある分布を直接最適化するため、生存尤度を目的関数としてDeep Weibull-RNNを訓練する。
• 非故障装置のデータをRUL推定に活用するため、MTL-RNNに新たな制約損失を導入する。
• 共有されたRNNエンコーダーを用いたマルチタスク学習により、RULと故障確率を同時にモデル化し、劣化ダイナミクスを捉える共有表現を生成する。
• 訓練中に有効なWeibull母数（例：正の尺度、形状）を保証するため、ReLUおよびsoftplus変換を用いる。
• 特に感度の高いDeep Weibull-RNNの訓練を安定化させるために、早期停止と学習率スケジューリングを適用する。

Figure 2 : An example from C-MAPSS, a turbofan engine degradation dataset from NASA [ 26 ] showing sensor data and the proposed window scheme used in this work. We first divide our data into windows (of size $\mathsf{w}$ ). The filter window $\tau_{f}$ is removed from the data and windows falling in

実験結果

リサーチクエスチョン

• RQ1 統合されたディープラーニングモデルは、両タスクで一貫性のある性能を発揮しながら、RULと故障確率を同時に予測できるか？
• RQ2 Weibull尤度を用いて故障までの時間分布を明示的にモデリングすることで、エンドツーエンド学習に比べて一般化性能と予測の一貫性が向上するか？
• RQ3 共有エンコーダーと新しい制約損失を用いたマルチタスク学習は、非故障データをRUL推定に効果的に活用しつつ、故障予測性能を向上させることができるか？
• RQ4 統合モデルの性能は、RUL推定および故障予測の両面で、タスク特化型のベースラインと比較してどうなるか？
• RQ5 別々のモデルを用いる場合と比較して、同じモデルを用いたRULと故障確率の予測が、どの程度一貫性を保っているか？

主な発見

• 提案されたMTL-RNNは、Backblazeデータセットにおいて予測された故障確率とRUL値のスピアマン順位相関係数が-0.956に達し、極めて強い一貫性を示している。
• DW-RNNはFD01において-0.860の相関係数を達成し、RULと故障予測出力の間で強い一貫性を示している。
• C-MAPSSデータセットでは、MTL-RNNはRUL-RNNよりも故障予測性能が優れており（F1スコア0.85対0.71）、RUL精度は同等を維持している。
• RUL予測値を入力として故障予測に用いると、性能が著しく低下する（F1 < 0.5）ことが示され、別々のモデルの不一致が明らかになった。
• MTL-RNNフレームワークは、故障予測で最先端の性能を達成しながらも、RUL推定の精度を維持しており、それぞれのタスクに特化して訓練されたベースラインを上回っている。
• Deep Weibull-RNNモデルは、明示的な生存関数モデリングにより、再訓練なしに複数の時間スケールでの故障予測が可能である。