[논문 리뷰] Two Birds with One Network: Unifying Failure Event Prediction and Time-to-failure Modeling

Karan Aggarwal, Onur Atan외 4명|arXiv (Cornell University)|2018. 12. 18.

Machine Fault Diagnosis Techniques참고 문헌 24인용 수 11

한 줄 요약

이 논문은 RNN 기반의 통합 딥러닝 프레임워크를 제안하여 잔여 수명(RUL)과 장故 확률을 동시에 예측한다. 이는 생존 분석(Deep Weibull-RNN)과 다중 과제 학습(MTL-RNN)을 기반으로 하며, 두 과제 모두에서 일관되고 높은 성능의 예측을 달성한다. 실험 결과, 실패 예측 성능는 태스크별 기준선을 능가하며, RUL 정확도는 여전히 높은 수준을 유지한다.

ABSTRACT

One of the key challenges in predictive maintenance is to predict the impending downtime of an equipment with a reasonable prediction horizon so that countermeasures can be put in place. Classically, this problem has been posed in two different ways which are typically solved independently: (1) Remaining useful life (RUL) estimation as a long-term prediction task to estimate how much time is left in the useful life of the equipment and (2) Failure prediction (FP) as a short-term prediction task to assess the probability of a failure within a pre-specified time window. As these two tasks are related, performing them separately is sub-optimal and might results in inconsistent predictions for the same equipment. In order to alleviate these issues, we propose two methods: Deep Weibull model (DW-RNN) and multi-task learning (MTL-RNN). DW-RNN is able to learn the underlying failure dynamics by fitting Weibull distribution parameters using a deep neural network, learned with a survival likelihood, without training directly on each task. While DW-RNN makes an explicit assumption on the data distribution, MTL-RNN exploits the implicit relationship between the long-term RUL and short-term FP tasks to learn the underlying distribution. Additionally, both our methods can leverage the non-failed equipment data for RUL estimation. We demonstrate that our methods consistently outperform baseline RUL methods that can be used for FP while producing consistent results for RUL and FP. We also show that our methods perform at par with baselines trained on the objectives optimized for either of the two tasks.

연구 동기 및 목표

• RUL 추정과 실패 예측을 별도의 태스크로 간주할 경우 발생하는 일관성 부족과 최적화 불량 문제를 해결한다.
• 장기적 RUL와 단기적 실패 확률 간의 암묵적 관계를 활용하여 실패 예측 성능을 향상시킨다.
• 한 개의 모델을 통해 RUL와 실패 확률을 동시에 예측함으로써 일관된 유지보수 의사결정을 지원한다.
• 사전 훈련이나 별도의 임bedding 없이도 비고장 장비 데이터를 효과적으로 활용하여 RUL 추정을 수행한다.
• 두 태스크 모두에서 높은 성능를 유지하면서도, RUL 예측 결과를 실패 예측에 사용할 경우 발생하는 성능 저하 문제를 방지하는 통합 프레임워크를 개발한다.

제안 방법

• Weibull 분포를 사용하여 장애 발생 시간을 모델링하는 생존 분석 기반 RNN인 Deep Weibull-RNN을 제안하며, 네트워크 출력이 형태 및 척도 매개변수를 제약 조건을 갖는 변환을 통해 파arameter화한다.
• 실패 시간 분포의 기초가 되는 생존 가능도 목표함수를 사용하여 Deep Weibull-RNN을 훈련함으로써 직접적으로 실패 시간 분포를 최적화한다.
• MTL-RNN에 새로운 제약 손실을 도입하여, 동시에 실패 예측을 학습하는 동안 비고장 장비 데이터를 RUL 추정에 효과적으로 활용한다.
• 공유된 RNN 인코더를 사용한 다중 과제 학습을 통해 RUL와 실패 확률을 동시에 모델링하며, 공유 표현이 고장 진행 과정을 포괄한다.
• 훈련 중에 유효한 Weibull 매개변수(예: 양수인 척도, 형태)를 보장하기 위해 ReLU 및 소프트플러스 변환을 적용한다.
• 특히 더 민감한 Deep Weibull-RNN의 훈련 안정성을 확보하기 위해 조기 정지와 학습률 스케줄링을 적용한다.

Figure 2 : An example from C-MAPSS, a turbofan engine degradation dataset from NASA [ 26 ] showing sensor data and the proposed window scheme used in this work. We first divide our data into windows (of size $\mathsf{w}$ ). The filter window $\tau_{f}$ is removed from the data and windows falling in

실험 결과

연구 질문

• RQ1 통합 딥러닝 모델이 두 태스크 모두에서 일관된 성능을 보이며 RUL와 실패 확률을 동시에 예측할 수 있는가?
• RQ2 Weibull 가능도를 통해 실패 시간 분포를 명시적으로 모델링하는 것이 엔드 투 엔드 훈련 대비 일반화 능력과 예측 일관성 향상에 기여하는가?
• RQ3 공유 인코더와 새로운 제약 손실을 갖춘 다중 과제 학습이 비고장 데이터를 효과적으로 활용하여 RUL 추정을 수행하면서도 실패 예측 성능 향상을 이룰 수 있는가?
• RQ4 통합 모델의 성능가 태스크별 기준선과 비교하여 RUL 추정 및 실패 예측 양 측면에서 어떻게 평가되는가?
• RQ5 서로 다른 모델을 사용할 경우에 비해, 동일한 모델을 사용할 경우 RUL 및 실패 확률 예측 간 일관성은 어느 정도 유지되는가?

주요 결과

• 제안된 MTL-RNN 방법은 Backblaze 데이터셋에서 예측된 실패 확률과 RUL 값 간 스피어먼 순위 상관계수 -0.956을 기록하여 매우 강한 일관성을 보였다.
• DW-RNN은 FD01에서 -0.860의 상관계수를 기록하여 RUL와 실패 예측 출력 간 강력한 일관성을 입증하였다.
• C-MAPSS 데이터셋에서 MTL-RNN은 실패 예측 성능(F1-score 0.85)에서 RUL-RNN(0.71)을 능가하면서도 RUL 정확도는 유사한 수준을 유지하였다.
• RUL 예측 결과를 실패 예측 입력으로 사용할 경우 성능이 열악하게 나타났다(F1 < 0.5)는 점에서 별도의 모델이 일관성 부족을 보임을 입증하였다.
• MTL-RNN 프레임워크는 실패 예측에서 최신 기술 수준의 성능를 달성하면서도 강력한 RUL 추정 성능를 유지하여, 각각의 태스크에 특화된 기준선을 능가하였다.
• Deep Weibull-RNN 모델은 명시적인 생존 함수 모델링 덕분에 재학습 없이도 다양한 시간 범위에 걸쳐 실패 예측이 가능하다.