[論文レビュー] Personalized Federated Learning for Multi-task Fault Diagnosis of Rotating Machinery

Sheng Guo, Zengxiang Li+3 more|arXiv (Cornell University)|Nov 17, 2022

E-commerce and Technology Innovations被引用数 4

ひとこと要約

本論文は、回転機械におけるマルチタスク故障診断のためのパーソナライズドフェデレーテッドラーニングフレームワークを提案する。フェデレーテッドクラスタリングを用いて類似した機械をグループ化し、データの非同一性に対応するための適応的ハイアラルヒカルアグリゲーションを採用することで、工場間でプライバシーを守りながら協調学習を実現する。この手法は、故障サンプルが少ない機械においても診断精度を顕著に向上させる。

ABSTRACT

Intelligent fault diagnosis is essential to safe operation of machinery. However, due to scarce fault samples and data heterogeneity in field machinery, deep learning based diagnosis methods are prone to over-fitting with poor generalization ability. To solve the problem, this paper proposes a personalized federated learning framework, enabling multi-task fault diagnosis method across multiple factories in a privacypreserving manner. Firstly, rotating machines from different factories with similar vibration feature data are categorized into machine groups using a federated clustering method. Then, a multi-task deep learning model based on convolutional neural network is constructed to diagnose the multiple faults of machinery with heterogeneous information fusion. Finally, a personalized federated learning framework is proposed to solve data heterogeneity across different machines using adaptive hierarchical aggregation strategy. The case study on collected data from real machines verifies the effectiveness of the proposed framework. The result shows that the diagnosis accuracy could be improved significantly using the proposed personalized federated learning, especially for those machines with scarce fault samples.

研究の動機と目的

• 故障サンプルが少ないことや産業用機械間のデータ非同一性による深層学習ベースの故障診断の一般化性能の低さという課題に対処すること。
• 生の振動データを共有せずに複数の工場間で協調的モデル学習を可能にし、データプライバシーを保護すること。
• 故障サンプルが限られた機械の診断精度を、パーソナライズドフェデレーテッドラーニングにより向上させること。
• 振動信号の時間領域および周波数領域特徴を統合するマルチタスク深層学習モデルを構築し、同時に故障検出を実現すること。
• 共有特徴抽出とパーソナライズド分類のコンponentを区別する適応的ハイアラルヒカルアグリゲーション戦略を設計すること。

提案手法

• フェデレーテッドクラスタリングを用いて、生のデータを暴露せずに振動信号特徴の類似性に基づき異なる工場の機械をグループ化する。
• 共通の特徴抽出のための共有畳み込みニューラルネットワークと、各機械グループごとのパーソナライズドマルチタスク分類ヘッドを備えたマルチタスク深層学習モデルを構築する。
• パーソナライズドフェデレーテッドラーニングフレームワークは、適応的ハイアラルヒカルアグリゲーションを採用：全機械にわたる共有特徴抽出器のグローバルアグリゲーションと、各機械グループ内でのパーソナライズド分類ヘッドのローカルアグリゲーション。
• フレームワークは、ローカルデータ分布とモデル性能に基づいて動的に重みを割り当てる新しい適応的アグリゲーション戦略を用いる。
• 振動信号を処理し、時間領域および周波数領域特徴を抽出し、これを深層学習モデルの入力として使用する。
• データを中央集約しないことで、非同一なデータ分布を持つ工場間での知識移行を実現しながらプライバシーを確保する。

実験結果

リサーチクエスチョン

• RQ1 生の振動データを共有せずに、複数工場にまたがる類似した回転機械をフェデレーテッドクラスタリングで効果的にグループ化できるか？
• RQ2 パーソナライズドフェデレーテッドラーニングは、ヴァナイルフェデレーテッドラーニングや単一機械モデルと比較して、故障診断精度をどのように向上させるか？
• RQ3 提案されたフレームワークは、故障サンプルが少ない機械の性能劣化をどの程度緩和できるか？
• RQ4 適応的ハイアラルヒカルアグリゲーションは、機械間のデータ非同一性に対処するための標準的なアグリゲーション戦略を上回るか？
• RQ5 時間領域および周波数領域特徴を統合するマルチタスク学習は、フェデレーテッド環境下で故障診断性能を向上させられるか？

主な発見

• パーソナライズドフェデレーテッドラーニングフレームワークは平均F1スコア0.855を達成し、単一機械モデル（0.818）およびヴァナイルフェデレーテッドラーニング（0.831）を顕著に上回った。
• 故障率が5%未満の機械では、単一機械モデルからパーソナライズドFLに移行することでF1スコアの向上が最も顕著で、最大0.746（単一機械モデル：0.543）に達した。
• 故障サンプルが限られた状況でも高い診断精度を維持しており、低データ環境下でのロバスト性を示した。
• フェデレーテッドクラスタリングにより機械間のデータ非同一性が低減され、故障タイプ1および3ではF1スコアがそれぞれ0.851および0.813に上昇した。
• 90%のテスト対象機械および故障タイプにおいて、パーソナライズドFLはヴァナイルFLおよびクラスタリングFLを上回った。特に故障率が低いケースで顕著な性能向上を示した。
• 故障サンプルが豊富な場合（例：故障率50%以上）にはフェデレーテッドラーニングによる改善は限定的であったため、主に低データ状況でその利点が顕著であることが確認された。