[論文レビュー] Quick Learning Mechanism with Cross-Domain Adaptation for Intelligent Fault Diagnosis

Arun Kumar Sharma, Nishchal K. Verma|arXiv (Cornell University)|Mar 16, 2021

Machine Fault Diagnosis Techniques参考文献 42被引用数 19

ひとこと要約

本稿では、Net2Net変換とドメイン適応を用いた高速学習メカニズムを提案し、事前学習済みの故障診断モデルを新しい産業運用条件に迅速に適応させる。最小限のラベル付きターゲットデータを用いたファインチューニングと最大平均差分（MMD）の最小化により、多様な条件下で高い精度と安定性を達成し、トレーニング時間を著しく短縮し、動的で変化しやすい産業環境におけるリアルタイム故障診断を可能にする。

ABSTRACT

The fault diagnostic model trained for a laboratory case machine fails to perform well on the industrial machines running under variable operating conditions. For every new operating condition of such machines, a new diagnostic model has to be trained which is a time-consuming and uneconomical process. Therefore, we propose a quick learning mechanism that can transform the existing diagnostic model into a new model suitable for industrial machines operating in different conditions. The proposed method uses the Net2Net transformation followed by a fine-tuning to cancel/minimize the maximum mean discrepancy between the new data and the previous one. The fine-tuning of the model requires a very less amount of labelled target samples and very few iterations of training. Therefore, the proposed method is capable of learning the new target data pattern quickly. The effectiveness of the proposed fault diagnosis method has been demonstrated on the Case Western Reserve University dataset, Intelligent Maintenance Systems bearing dataset, and Paderborn university dataset under the wide variations of the operating conditions. It has been validated that the diagnostic model trained on artificially damaged fault datasets can be used to quickly train another model for a real damage dataset.

研究の動機と目的

• 産業用回転機械において、新しい運用条件ごとに故障診断モデルを再トレーニングする課題に対処すること。
• ソース（ラボ）モデルからターゲット（産業）ドメインへの知識転送により、モデル再トレーニングの時間とコストを削減すること。
• 最小限のラベル付きターゲットサンプルと少ないトレーニングイテレーションで、新しいデータパターンへの迅速な適応を可能にすること。
• 最新の手法と比較して、負荷、回転速度、故障状態の変動に伴うモデルの安定性と精度を向上させること。

提案手法

• 関数マッピングを保持しながら、事前学習済みソースネットワークをターゲットドメインに適した新しいアーキテクチャに再構成するため、Net2Net変換を採用する。
• ドメインシフトを低減するため、ソースとターゲットの特徴分布間の最大平均差分（MMD）を最小化することでドメイン適応を実施する。
• 分類損失とMMDの両方を最小化するように、少量のラベル付きターゲットサンプルを用いて変換されたネットワークをファインチューニングする。
• 分類損失 + MMD項という組み合わせの目的関数を用い、特徴のアライメントを図り、一般化性能を向上させる。
• 関数保存の原則を活用して新しいネットワークを初期化し、ランダム初期化を回避し、収束を加速する。
• 確率的勾配降下法を用いたバックプロパゲーションにより、ファインチューニングプロセスを効率的に最適化する。

実験結果

リサーチクエスチョン

• RQ1 事前学習済みの故障診断モデルを、再トレーニングを伴わずに新しい産業運用条件に迅速に適応できるか？
• RQ2 Net2Netに基づくネットワーク変換は、トレーニング時間の短縮と適応速度の向上にどの程度効果的か？
• RQ3 限られたラベル付きターゲットデータのもとで、MMDに基づくドメイン適応はモデル性能をどの程度向上させるか？
• RQ4 負荷、回転速度、故障深刻度の広範な変動において、提案手法はどの程度安定しているか？
• RQ5 人工的に損傷させたデータで学習したモデルは、実際の故障事例に効果的に転送可能か？

主な発見

• CWRUデータセットにおいて、負荷と回転速度の変動下で96.12%の精度を達成し、DNN（88.27%）とDANN（92.45%）を上回ったが、ターゲットデータは最小限であった。
• パデルボーン大学のデータセットでは、高速・高負荷条件下で96.24%の精度を達成し、標準偏差はわずか2.05にとどまり、高い安定性を示した。
• ターゲットサンプルのラベル付きデータが10%の状態でも、T3では92.3%、T4では90.0%の精度を維持した。これはDANN（58.6%と65.3%）およびDNN（58.6%と65.3%）を著しく上回った。
• Target-1ではドメイン適応を適用した場合、トレーニング時間が55.0秒にまで短縮され、DANNの2476.26秒と比較して45倍の高速化を達成した。
• t-SNE可視化により、提案手法の特徴は最新の手法と比較してはっきりと分離されていることが確認され、より優れた特徴の識別能を示した。
• 人工的に損傷させたデータから得た知識を、実際の故障事例に効果的に転送できることを示し、実世界の故障診断における実用的応用可能性を裏付けた。