[논문 리뷰] Time Series Diffusion Method: A Denoising Diffusion Probabilistic Model for Vibration Signal Generation

Haiming Yi, Lei Hou외 4명|arXiv (Cornell University)|2023. 12. 13.

Spectroscopy and Chemometric Analyses참고 문헌 43인용 수 4

한 줄 요약

이 논문은 주목적 기반 주기적 신호 생성을 위한 개선된 U-Net과 주목적 블록, ResBlocks를 탑재한 노이즈 제거 확산 확률 모델인 시간 시리즈 확산 방법(TSDM)을 제안한다. TSDM는 단일 및 다중 주파수 신호, rolling bearing 고장 신호를 고해상도로 생성하는 데에 최첨단 성능을 달성하며, 공개 데이터셋에서 소규모 샘플 고장 진단 정확도를 최대 32.38% 향상시킨다.

ABSTRACT

Diffusion models have demonstrated powerful data generation capabilities in various research fields such as image generation. However, in the field of vibration signal generation, the criteria for evaluating the quality of the generated signal are different from that of image generation and there is a fundamental difference between them. At present, there is no research on the ability of diffusion model to generate vibration signal. In this paper, a Time Series Diffusion Method (TSDM) is proposed for vibration signal generation, leveraging the foundational principles of diffusion models. The TSDM uses an improved U-net architecture with attention block, ResBlock and TimeEmbedding to effectively segment and extract features from one-dimensional time series data. It operates based on forward diffusion and reverse denoising processes for time-series generation. Experimental validation is conducted using single-frequency, multi-frequency datasets, and bearing fault datasets. The results show that TSDM can accurately generate the single-frequency and multi-frequency features in the time series and retain the basic frequency features for the diffusion generation results of the bearing fault series. It is also found that the original DDPM could not generate high quality vibration signals, but the improved U-net in TSDM, which applied the combination of attention block and ResBlock, could effectively improve the quality of vibration signal generation. Finally, TSDM is applied to the small sample fault diagnosis of three public bearing fault datasets, and the results show that the accuracy of small sample fault diagnosis of the three datasets is improved by 32.380%, 18.355% and 9.298% at most, respectively.

연구 동기 및 목표

• 이미지 생성과 근본적으로 다른 신호 품질 평가 방식을 고려할 때, 진동 신호 생성 분야에서 확산 모델의 적용 부족을 해결하기 위해.
• 일차원 진동 신호의 시간적 및 스펙트럼적 특성에 특화된 확산 기반 생성 모델을 개발하기 위해.
• U-Net 아키텍처의 혁신을 통해 베어링 신호의 고장 특징을 포함한 생성된 진동 신호의 품질을 향상시키기 위해.
• 실제 베어링 고장 데이터셋을 사용하여 소수의 샘플만으로도 고장 진단 성능을 평가하기 위해.
• 주목적 블록과 ResBlocks와 같은 아키텍처적 개선 사항이 표준 DDPM보다 훨씬 뛰어난 성능을 보임을 입증하기 위해.

제안 방법

• TSDM는 노이즈 제거 확산 확률 프레임워크를 적용하여 시간 시리즈 데이터에 점차적으로 노이즈를 추가하고, 이를 역으로 제거하여 현실적인 신호를 생성한다.
• 모델은 장기적인 의존성을 더 잘 포착하기 위해 잔차 블록(ResBlocks)과 시간 주목적 메커니즘을 통합한 U-Net 백본을 사용한다.
• 시간 임bedding(TimeEmbedding)이 도입되어 노이즈 제거 과정이 확산 단계에 따라 조건화되어 신호의 단계별 정밀 조정이 가능해진다.
• 모델은 예측된 노이즈 제거된 신호와 진정한 값 간의 차이를 최소화하는 노이즈 제거 점수 매칭 목적함수를 사용하여 엔드 투 엔드로 훈련된다.
• 정밀도와 특징 유지 능력을 평가하기 위해 단일 주파수, 다중 주파수, 베어링 고장 데이터셋을 대상으로 평가된다.
• TSDM는 소규모 훈련 세트에 생성된 신호를 보강하여 소수의 샘플 고장 진단에 대해 미세조정되고 적용된다.

실험 결과

연구 질문

• RQ1 확산 모델은 주파수 및 고장 특징을 유지하면서 고해상도 일차원 진동 신호를 효과적으로 생성할 수 있는가?
• RQ2 U-Net 아키텍처에 주목적 블록과 ResBlocks를 통합할 경우 표준 DDPM에 비해 진동 신호 생성에 어떤 개선 효과를 보이는가?
• RQ3 TSDM은 실제 베어링 데이터셋에서 소규모 샘플 고장 진단 성능을 어느 정도 향상시킬 수 있는가?
• RQ4 모델은 생성된 베어링 진동 신호에서 기본 주파수 성분과 고장 관련 일시적 특징을 유지하는가?
• RQ5 복잡하고 비정상적인 진동 신호를 생성할 때 TSDM은 기준 DDPM에 비해 어떤가?

주요 결과

• TSDM은 목표 주파수 성분을 정확히 유지하면서 단일 및 다중 주파수 진동 신호를 고해상도로 성공적으로 생성한다.
• 노이즈 추가 및 제거 과정 후에도 베어링 진동 신호의 핵심 고장 특징, 즉 일시적 인파르트와 주기적 패턴을 유지한다.
• 주목적과 잔차 블록을 통합한 개선된 U-Net은 표준 DDPM에 비해 크게 뛰어나며, 후자는 고해상도 진동 신호를 생성하지 못한다.
• 세 개의 공개 베어링 고장 데이터셋에서 TSDM은 각각 최대 32.38%, 18.355%, 9.298%의 소규모 샘플 고장 진단 정확도 향상을 달성했다.
• 제거 분석 결과 주목적과 잔차 블록의 조합이 진동 신호의 복잡한 시간 동적 특징을 포착하는 데 핵심적임을 확인했다.
• TSDM은 깨끗한 신호, 다중 주파수, 고장 인파르트 신호를 포함한 다양한 신호 유형에 대해 강력한 일반화 능력을 보였다.