[論文レビュー] Generative Adversarial Networks for Failure Prediction

Shuai Zheng, Ahmed Farahat+1 more|arXiv (Cornell University)|Oct 4, 2019

Machine Fault Diagnosis Techniques参考文献 33被引用数 12

ひとこと要約

本稿では、不均衡な産業用データセットにおける故障予測のための新しい生成対抗ネットワークフレームワーク、GAN-FPを提案する。この手法は、infoGANに基づく合成データ生成、実データにおける重み付き損失最適化、および一貫性を保証するGANを組み合わせることで、推論ネットワークの訓練を向上させ、ベンチマークであるPHMデータセットにおいて最先端の性能を達成し、F1スコアおよびAUCスコアで顕著な向上を示した。

ABSTRACT

Prognostics and Health Management (PHM) is an emerging engineering discipline which is concerned with the analysis and prediction of equipment health and performance. One of the key challenges in PHM is to accurately predict impending failures in the equipment. In recent years, solutions for failure prediction have evolved from building complex physical models to the use of machine learning algorithms that leverage the data generated by the equipment. However, failure prediction problems pose a set of unique challenges that make direct application of traditional classification and prediction algorithms impractical. These challenges include the highly imbalanced training data, the extremely high cost of collecting more failure samples, and the complexity of the failure patterns. Traditional oversampling techniques will not be able to capture such complexity and accordingly result in overfitting the training data. This paper addresses these challenges by proposing a novel algorithm for failure prediction using Generative Adversarial Networks (GAN-FP). GAN-FP first utilizes two GAN networks to simultaneously generate training samples and build an inference network that can be used to predict failures for new samples. GAN-FP first adopts an infoGAN to generate realistic failure and non-failure samples, and initialize the weights of the first few layers of the inference network. The inference network is then tuned by optimizing a weighted loss objective using only real failure and non-failure samples. The inference network is further tuned using a second GAN whose purpose is to guarantee the consistency between the generated samples and corresponding labels. GAN-FP can be used for other imbalanced classification problems as well.

研究の動機と目的

• 予後管理（PHM）分野における極めて不均衡な故障データの課題に対処すること。故障サンプルは希少であり、複雑である。
• SMOTE や ADASYN などの従来のオーバーサンプリング手法の限界を克服すること。これらの手法は複雑な故障パターンを捉えられず、過学習のリスクを伴う。
• 生成モデリングを活用して故障予測の精度を向上させるとともに、合成データにおけるラベルの一貫性を維持する統合フレームワークの開発。
• 異なる故障モードや運用条件を有する多様な産業用データセットにおいて、GAN-FPの有効性を示すこと。

提案手法

• GAN-FPは三モジュール構造のフレームワークを採用する。まず、infoGANがリアルな合成故障および非故障サンプルを生成し、推論ネットワークの事前学習を実施する。
• 第二に、推論ネットワークは、実データにおける重み付き損失目的関数を用いて微調整され、infoGANのディスクラミネーターからの共有第一層重みが利用される。
• 第三に、第二のGANが生成されたサンプルとその予測ラベルの間の一貫性を強制することで、一般化性能の向上とラベルの一貫性の低下を防止する。
• 本手法は、データ拡張と識別的学習を統合し、合成サンプルが現実的であると同時に、ラベルと意味的に整合していることを保証する。
• 推論ネットワークは、クラス不均衡に配慮した損失関数を用いて実データからエンドツーエンドで訓練され、GAN部は共同最適化スキームで訓練される。
• 本フレームワークは、故障予測を越えて他の不均衡分類問題への応用も可能である。

実験結果

リサーチクエスチョン

• RQ1 GANベースのデータ生成は、極めて不均衡な産業用データセットにおける故障予測性能を向上させることができるか？
• RQ2 生成されたサンプルとその予測ラベルの間のラベル一貫性を強制することは、モデルの一般化性能を向上させるか？
• RQ3 F1スコアおよびAUCの観点から、GAN-FPは従来のオーバーサンプリング手法（SMOTE、ADASYN）および損失重み付け戦略に比べて優れているか？
• RQ4 infoGANが生成する合成データは、深層推論ネットワークの故障予測用初期化に効果的か？
• RQ5 一貫性を保証するGANの共同訓練は、最終的な推論モデルのロバスト性を向上させるか？

主な発見

• CMAPSS FD001データセットでは、GAN-FPはF1スコア0.8635を達成し、次に良い手法（InfoGAN AUG）の0.7768を顕著に上回った。
• CMAPSS FD004データセットでは、GAN-FPは故障予測のF1スコア0.8117を達成し、最良のベースライン（重み付き損失付きSVM）の0.7025を上回った。
• GAN-FPはCMAPSS FD001でAUC 0.9040を達成し、次に良い手法（InfoGAN AUG）を0.0173上回った。
• 本手法は、CMAPSSおよびAPSベンチマークデータセットの両方で、すべての指標（精度、再現率、F1、AUC）において一貫した改善を示した。
• アブレーションスタディにより、第三モジュール（第二のGANによる一貫性強制）が極めて重要であることが確認され、GAN-FPはInfoGANによるデータ拡張訓練を上回った。
• GAN-FPはCMAPSS FD004でマイクロ-F1（0.8890）およびマクロ-F1（0.8890）の最高値を達成し、すべての故障クラスで優れた性能を示した。