[論文レビュー] Oversampling Adversarial Network for Class-Imbalanced Fault Diagnosis

Masoumeh Zareapoor, Pourya Shamsolmoali+1 more|arXiv (Cornell University)|Aug 7, 2020

Industrial Vision Systems and Defect Detection参考文献 43被引用数 7

ひとこと要約

本論文では、正常と故障データ分布の混合を用いて合成故障サンプルを生成することで、不均衡な産業分野のデータセットにおいて同時に故障診断と分類を実行する生成対抗ネットワーク（MoGAN）を提案する。ディスクライマは分類器および故障検出器の両方の役割を果たし、特にマルチクラスおよび極端に不均衡な状況下でもベースライン手法を上回る性能を示し、特定のデータセットではバランス精度が最大92％に達する。

ABSTRACT

The collected data from industrial machines are often imbalanced, which poses a negative effect on learning algorithms. However, this problem becomes more challenging for a mixed type of data or while there is overlapping between classes. Class-imbalance problem requires a robust learning system which can timely predict and classify the data. We propose a new adversarial network for simultaneous classification and fault detection. In particular, we restore the balance in the imbalanced dataset by generating faulty samples from the proposed mixture of data distribution. We designed the discriminator of our model to handle the generated faulty samples to prevent outlier and overfitting. We empirically demonstrate that; (i) the discriminator trained with a generator to generates samples from a mixture of normal and faulty data distribution which can be considered as a fault detector; (ii), the quality of the generated faulty samples outperforms the other synthetic resampling techniques. Experimental results show that the proposed model performs well when comparing to other fault diagnosis methods across several evaluation metrics; in particular, coalescing of generative adversarial network (GAN) and feature matching function is effective at recognizing faulty samples.

研究の動機と目的

• 正常サンプルが故障サンプルに比べて著しく多い産業分野の故障診断におけるクラス不均衡の課題に対処すること。
• 同時に分類と故障検出が可能な統合型ディープラーニングフレームワークの開発。
• 少数派（故障）サンプルの高品質な合成による、故障診断モデルの一般化性能および耐障害性の向上。
• 生成段階で混合データ分布を組み込むことで、不均衡データにおける過学習および分布シフトの問題を軽減。
• 提案されたGANにおけるディスクライマが、追加のトレーニングなしに効果的な故障検出器として機能できることの実証。

提案手法

• 故障診断のためのジェネレータとディスクライマを同時にトレーニングする新しい生成対抗ネットワーク（MoGAN）アーキテクチャの提案。
• 正常と故障データ分布の混合をモデル化することで、ジェネレータが合成故障サンプルを生成し、データの多様性を向上。
• 低密度領域の一般化を改善するため、ジェネレータトレーニング中に特徴マッチング損失関数を用いる。
• ディスクライマを、入力を正常と複数の故障タイプに分類する多クラス分類器として設計するとともに、同時に異常検出も実行。
• 実サンプルと生成（偽）サンプルを区別するようにディスクライマをトレーニングし、外れ値および故障パターンを識別する能力を学習。
• ディスクライマの出力を故障検出メカニズムとして統合し、エンドツーエンドの分類と異常検出を実現。

Figure 1: The MoGAN architecture. The discriminator of MoGAN is designed for simultaneous classification and fault detection. $e_{r}$ and $e_{f}$ indicates as real and fake (generated) samples respectively. Our discriminator creates several clusters in its embedding space to distinguish not only fak

実験結果

リサーチクエスチョン

• RQ1 生成対抗ネットワークは、不均衡な産業分野の故障診断データセットにおいて、現実的で合成された故障サンプルを効果的に生成できるか？
• RQ2 実サンプルと生成サンプルの両方を分類するようにディスクライマをトレーニングすることで、標準GANと比較して故障検出性能が向上するか？
• RQ3 MoGANの性能は、A2CNN、WDCNN+AdaBN、RJAANといった最先端手法と比較して、マルチクラスおよび極端に不均衡な故障診断状況下でどのように異なるか？
• RQ4 ジェネレータでデータ分布の混合を用いることで、合成サンプルの品質と多様性がどの程度向上するか？
• RQ5 提案モデルにおけるディスクライマは、追加の微調整やアーキテクチャ変更なしに信頼できる故障検出器として機能できるか？

主な発見

• MoGANは、標準GAN、SDAE、ADASYN、RJAANを複数の評価指標で上回り、特定のデータセットではバランス精度が最大92％に達する。
• 中程度から低めのクラス不均衡（例：1:20および1:3比）のデータセットにおいても、A2CNNおよびRJAANを常に上回る優れた性能を示す。
• 重度のクラス不均衡（例：1:1000比）の場合でも、MoGANはベースラインを上回るが、性能はわずかに低下する傾向にあり、極端な条件下でも頑健であることが示された。
• ジェネレータにおける特徴マッチング損失の使用により、より高品質な合成サンプルが得られ、その結果としてディスクライマの検出能力が向上した。
• MoGANが生成したサンプルでトレーニングしたSVMは、48–27％の精度を示す元の不均衡データでトレーニングした場合と比較して、66–51％の精度を達成し、生成サンプルの情報量の高さを裏付けた。
• 混同行列による検証により、ディスクライマの故障検出能力が確認され、特に低・中程度の不均衡状況下で、すべての故障クラスにおいて高い精度と再現率を示した。

Figure 2: The discriminator of our proposed MoGAN against CatAAE [ 24 ] . Other methods like CatAEE in addition to discriminator; they have a classifier in their architecture to classify the faulty samples from the normal one.