[論文レビュー] Imbalanced Data Learning by Minority Class Augmentation using Capsule Adversarial Networks

Pourya Shamsolmoali, Masoumeh Zareapoor+3 more|arXiv (Cornell University)|Apr 5, 2020

Digital Media Forensic Detection参考文献 50被引用数 9

ひとこと要約

本稿では、クラス不均衡を解消するための生成対抗ネットワークであるCapsANを提案する。CapsANは、識別器にキャプセルネットワークを統合し、画像データセットにおける少数クラスのデータを多様かつ高品質に生成する。多変量混合分布と特徴マッチング損失を活用することで、多数クラスの分布を損なうことなく、少数クラスの多様なサンプルを生成し、CNNベースのGANと比較してパラメータ数を減らしながら、クラス不均衡な画像分類ベンチマークで最先端の性能を達成する。

ABSTRACT

The fact that image datasets are often imbalanced poses an intense challenge for deep learning techniques. In this paper, we propose a method to restore the balance in imbalanced images, by coalescing two concurrent methods, generative adversarial networks (GANs) and capsule network. In our model, generative and discriminative networks play a novel competitive game, in which the generator generates samples towards specific classes from multivariate probabilities distribution. The discriminator of our model is designed in a way that while recognizing the real and fake samples, it is also requires to assign classes to the inputs. Since GAN approaches require fully observed data during training, when the training samples are imbalanced, the approaches might generate similar samples which leading to data overfitting. This problem is addressed by providing all the available information from both the class components jointly in the adversarial training. It improves learning from imbalanced data by incorporating the majority distribution structure in the generation of new minority samples. Furthermore, the generator is trained with feature matching loss function to improve the training convergence. In addition, prevents generation of outliers and does not affect majority class space. The evaluations show the effectiveness of our proposed methodology; in particular, the coalescing of capsule-GAN is effective at recognizing highly overlapping classes with much fewer parameters compared with the convolutional-GAN.

研究の動機と目的

• 少数クラスが不十分に表現される状況において、深層学習の性能低下を是正すること。
• データの不均衡やモード崩壊の影響により、標準的なGANが少数クラスのリアルな多様なサンプルを生成するのを困難にしているという課題を克服すること。
• 従来のCNNとは異なりキャプセルネットワークを採用することで、多クラス設定における識別器のロバスト性と一般化性能を向上させること。
• データ生成中に多数クラスの分布の整合性を保つこと。過学習や分布シフトを回避すること。
• 特徴マッチング損失と多変量確率分布を用いた訓練メカニズムを構築し、訓練の安定化とサンプル品質の向上を図ること。

提案手法

• 提案されたCapsANフレームワークでは、ノイズとクラスラベルを入力として、多変量混合分布からサンプリングすることで少数クラスの画像を生成する生成器を採用する。
• 識別器は、既知のクラスに対応する複数のクラスタと「偽物」クラスを出力するキャプセルベースの多クラス分類器（キャプセル識別器、DC）として再設計され、クラスに依存した識別性能が向上する。
• 生成器は、実画像と生成画像の特徴表現間のL1距離を最小化する特徴マッチング損失関数によって訓練され、訓練の安定化と外れ値の生成防止が図られる。
• 生成器は、多数クラスと少数クラスの両方のデータを同時に使用して対抗訓練を実施することで、全データ分布の構造を学習する。
• 識別器内に統合されたキャプセルネットワークは、CNNに比べて階層的な空間的関係性とポーズ情報の表現をより効果的に捉えることができ、特徴表現と分類精度が向上する。
• このフレームワークは、生成器がキャプセルベースの識別器からのフィードバックに基づいて改善するように、エンドツーエンドで対抗的に訓練される。

実験結果

リサーチクエスチョン

• RQ1 従来のCNNベースの識別器と比較して、キャプセルベースの識別器は、クラス不均衡な画像データセットにおける分類性能を向上させることができるか？
• RQ2 生成器に多変量混合分布を組み込むことで、少数クラスのサンプルの多様性と現実性が向上するか？
• RQ3 特徴マッチング損失は、不均衡なデータで訓練されるGANの訓練を安定化させ、モード崩壊を低減できるか？
• RQ4 CapsANは、少数クラスの拡張を図る一方で、多数クラスの分布をどの程度保っているか？
• RQ5 CapsANは、既存のGANベースおよび非GANベースのデータ拡張手法と比較して、性能とパラメータ効率の面で優れているか？

主な発見

• Data 4ではF1スコアが0.914に達し、SMOTE（0.796）、ADASYN（0.891）、CRL（0.874）といったベースライン手法を上回った。
• Data 5ではF1スコアが0.889を記録し、次に優れた手法（ADASYN：0.889）を上回り、不均衡ベースライン（0.693）を著しく上回った。
• Data 6ではF1スコアが0.845を達成し、SMOTE（0.661）、ADASYN（0.795）、CRL（0.819）を上回った。
• Data 7ではF1スコアが0.823を記録し、不均衡ベースライン（0.618）とADASYN（0.765）、CRL（0.784）を上回った。
• 同様の畳み込み-GANモデルと比較して、極めて少ないパラメータ数で、重複するクラスを効果的に認識する優れた性能を示した。
• キャプセルベースの識別器は、出力空間に明確なクラスタを形成し、少数クラスの分類精度向上と一般化性能の向上に寄与した。