[論文レビュー] A Survey on Deep Industrial Transfer Learning in Fault Prognostics

Benjamin Maschler|arXiv (Cornell University)|Jan 4, 2023

Fault Detection and Control Systems被引用数 6

ひとこと要約

本調査は、動的で変化しやすい産業環境におけるデータ不足とモデル適応の課題に対処する、産業用故障予知における深層転移学習アプローチを調査する。主な手法を特定し、既存のデータセットを評価し、研究と産業応用の加速を図るための標準化されたベンチマークの緊急の必要性を強調する。

ABSTRACT

Due to its probabilistic nature, fault prognostics is a prime example of a use case for deep learning utilizing big data. However, the low availability of such data sets combined with the high effort of fitting, parameterizing and evaluating complex learning algorithms to the heterogenous and dynamic settings typical for industrial applications oftentimes prevents the practical application of this approach. Automatic adaptation to new or dynamically changing fault prognostics scenarios can be achieved using transfer learning or continual learning methods. In this paper, a first survey of such approaches is carried out, aiming at establishing best practices for future research in this field. It is shown that the field is lacking common benchmarks to robustly compare results and facilitate scientific progress. Therefore, the data sets utilized in these publications are surveyed as well in order to identify suitable candidates for such benchmark scenarios.

研究の動機と目的

• 深層転移学習を用いて、産業用故障予知におけるラベル付き故障データの不足という課題に取り組む。
• 産業用故障予知に特化した、既存の転移学習および継続的学習手法を体系的にレビューする。
• 特に、信頼できる性能比較が可能な共有ベンチマークの欠如という点で、現在の研究におけるギャップを特定する。
• 標準化されたベンチマークのシナリオを確立するのに適したかどうかを評価するために、利用可能なデータセットを分析する。
• 手法のトレンドとデータの特性を統合することで、ベストプラクティスを提示し、今後の研究をガイドする。

提案手法

• 2018年から2022年までの産業用故障予知における深層転移学習に関する最近の研究を包括的にサーベイする。
• 適応戦略に基づいて転移学習技術を分類する：特徴量レベル、モデルレベル、損失関数ベースの適応。
• 航空宇宙、製造、エネルギーシステムなどの異なる産業分野におけるこれらの手法の応用をマッピングする。
• サーベイ対象の研究で使用された公開データセットの質、サイズ、多様性を評価する。
• 故障タイプ、センサモダリティ、データ量などのデータセットの特性を評価し、ベンチマークとしての潜在的可能性を判断する。
• 発見を統合し、今後のベンチマーク開発および手法論的ベストプラクティスに関する提言を策定する。

実験結果

リサーチクエスチョン

• RQ1 産業用故障予知において、主に用いられている深層転移学習技術は何か。また、それらは新しいまたは変化する故障状態にモデルをどのように適応させるか。
• RQ2 現在のアプローチの主な制限要因は何か。特に、異種の産業環境におけるデータ不足とモデルの汎化性能の観点から。
• RQ3 故障予知研究における標準化されたベンチマークを確立するのに最も適した既存のデータセットはどれか。
• RQ4 現在の転移学習手法は、異なる産業応用および故障タイプにおいて、どのように性能を発揮するか。
• RQ5 産業用故障予知における転移学習を評価するにあたり、強固なベンチマークを定義する基準は何か。

主な発見

• 分野全体に標準化されたベンチマークが存在しないため、転移学習手法の信頼できる比較が困難である。
• 大多数の研究が特許権を有するか、小規模なデータセットに依存しており、再現性や汎化性能の評価が制限されている。
• 特徴量レベルおよびモデルレベルの転移学習が最も一般的に適用されており、分野によってその成功度にばらつきがある。
• 航空宇宙分野および産業用機械のデータセットは、故障の多様性とデータ量の両方が豊富であるため、ベンチマーク化の可能性がより高い。
• 進展を加速させるために、コミュニティ全体での共有データセットおよび評価プロトコルの採用が強く求められている。
• 現在の手法は、事前学習済みモデルを新しい故障シナリオに適応させる可能性を示しているが、標準化された評価がなければ、性能向上は一貫しない。