[論文レビュー] Time Series Diffusion Method: A Denoising Diffusion Probabilistic Model for Vibration Signal Generation

Haiming Yi, Lei Hou+4 more|arXiv (Cornell University)|Dec 13, 2023

Spectroscopy and Chemometric Analyses参考文献 43被引用数 4

ひとこと要約

本稿では、アテンションブロックとResBlockを備えた改良型U-Netを用いた、振動信号生成に特化したノイズ除去拡散確率モデル、Time Series Diffusion Method (TSDM) を提案する。TSDMは、高精細な単一周波数および多周波数信号、ベアリング故障信号の生成において最先端の性能を達成し、公開データセット上での小標本故障診断精度を最大32.38%向上させた。

ABSTRACT

Diffusion models have demonstrated powerful data generation capabilities in various research fields such as image generation. However, in the field of vibration signal generation, the criteria for evaluating the quality of the generated signal are different from that of image generation and there is a fundamental difference between them. At present, there is no research on the ability of diffusion model to generate vibration signal. In this paper, a Time Series Diffusion Method (TSDM) is proposed for vibration signal generation, leveraging the foundational principles of diffusion models. The TSDM uses an improved U-net architecture with attention block, ResBlock and TimeEmbedding to effectively segment and extract features from one-dimensional time series data. It operates based on forward diffusion and reverse denoising processes for time-series generation. Experimental validation is conducted using single-frequency, multi-frequency datasets, and bearing fault datasets. The results show that TSDM can accurately generate the single-frequency and multi-frequency features in the time series and retain the basic frequency features for the diffusion generation results of the bearing fault series. It is also found that the original DDPM could not generate high quality vibration signals, but the improved U-net in TSDM, which applied the combination of attention block and ResBlock, could effectively improve the quality of vibration signal generation. Finally, TSDM is applied to the small sample fault diagnosis of three public bearing fault datasets, and the results show that the accuracy of small sample fault diagnosis of the three datasets is improved by 32.380%, 18.355% and 9.298% at most, respectively.

研究の動機と目的

• 画像生成とは根本的に異なる信号品質評価を伴う振動信号生成における拡散モデルの応用が不足しているという問題に取り組む。
• 一次元振動信号の時間的および周波数的特性に特化した、拡散ベースの生成モデルを構築する。
• U-Netにおけるアーキテクチャ的革新を活用し、特にベアリング信号の故障特徴の品質向上を図る。
• 実世界のベアリング故障データセットを用いて、小サンプル故障診断シナリオにおけるTSDMの有効性を検証する。
• アテンションブロックやResBlockといったアーキテクチャ的強化が、標準的なDDPMに比べて顕著に優れていることを示す。

提案手法

• TSDMは、時間系列データに段階的にノイズを加える前向き拡散と、ノイズ除去によるリアルな信号生成を行う逆方向のノイズ除去拡散確率フレームワークを採用する。
• モデルは、1次元信号における長距離依存性をよりよく捉えるために、残差ブロック（ResBlocks）と時間的アテンション機構を備えたU-Netバックボーンを用いる。
• 時間埋め込み（TimeEmbedding）を統合し、拡散ステップに応じた条件付きノイズ除去を可能にすることで、信号の段階的精錬を実現する。
• モデルは、予測されたノイズ除去信号と真値との差を最小化するノイズ除去スコアマッチング目的関数を用いて、エンドツーエンドで訓練される。
• 忠実度と特徴保持の評価を目的として、単一周波数、多周波数、およびベアリング故障データセット上でモデルを評価する。
• TSDMは、生成信号による小規模な訓練セットの拡張を経て、ファインチューニングされ、小サンプル故障診断に応用される。

実験結果

リサーチクエスチョン

• RQ1 アテンションブロックとResBlockを備えたU-Netアーキテクチャを用いることで、周波数成分および故障特徴を保持した高精細な1次元振動信号を拡散モデルが効果的に生成できるか？
• RQ2 U-NetアーキテクチャにアテンションブロックとResBlocksを統合することで、標準的なDDPMに比べて振動信号生成性能がどのように向上するか？
• RQ3 TSDMは、実世界のベアリングデータセット上での小標本故障診断性能をどの程度向上させられるか？
• RQ4 生成されたベアリング振動信号において、基本周波数成分および故障関連のトランジェント成分が保持されるか？
• RQ5 TSDMは、複雑で非定常な振動信号の生成において、ベースラインのDDPMに比べてどのように性能を発揮するか？

主な発見

• TSDMは、ターゲット周波数成分を正確に保持した高精細な単一および多周波数振動信号を効果的に生成した。
• ノイズ付与およびノイズ除去後でも、ベアリング振動信号に内在する重要な故障特徴（トランジェントインパルスや周期的パターン）を保持した。
• アテンションとResBlocksを備えた改良型U-Netは、標準的なDDPMに比べ顕著に優れた性能を示し、後者は高品質な振動信号を生成できなかった。
• 3つの公開ベアリング故障データセットにおいて、TSDMは小標本故障診断精度をそれぞれ最大32.38%、18.355%、および9.298%向上させた。
• アブレーションスタディの結果、アテンションと残差ブロックの組み合わせが、振動信号における複雑な時間的ダイナミクスを捉える上で不可欠であることが確認された。
• TSDMは、クリアな信号、多周波数信号、故障インパルス信号を含む多様な信号タイプにわたり、優れた一般化性能を示した。