[論文レビュー] Deep Learning for Imbalance Data Classification using Class Expert Generative Adversarial Network

Fanny, Tjeng Wawan Cenggoro|arXiv (Cornell University)|Jul 12, 2018

Imbalanced Data Classification Techniques被引用数 6

ひとこと要約

本稿では、クラス固有のGANを事前学習し、共有分類器での微調整を行うことで、各クラス固有の特徴を捉える深層学習フレームワークであるClass Expert Generative Adversarial Network (CE-GAN)を提案する。CE-GANは不均衡データにおいて最先端の性能を達成し、全体の正確度（87.38%）と少数クラスの精度を向上させた。特にBald（77.78%）の精度が顕著に向上し、ベースラインのCNNや他のGANベース手法を上回った。

ABSTRACT

Without any specific way for imbalance data classification, artificial intelligence algorithm cannot recognize data from minority classes easily. In general, modifying the existing algorithm by assuming that the training data is imbalanced, is the only way to handle imbalance data. However, for a normal data handling, this way mostly produces a deficient result. In this research, we propose a class expert generative adversarial network (CE-GAN) as the solution for imbalance data classification. CE-GAN is a modification in deep learning algorithm architecture that does not have an assumption that the training data is imbalance data. Moreover, CE-GAN is designed to identify more detail about the character of each class before classification step. CE-GAN has been proved in this research to give a good performance for imbalance data classification.

研究の動機と目的

• クラス分布の偏りにより少数クラスが無視されがちな不均衡データセットにおけるディープラーニングモデルの性能劣化という課題に対処すること。
• トレーニング中に不均衡を仮定する既存手法の限界を克服し、バランスの取れたデータセットでも性能が低下しないようにすること。
• 各クラス固有の特徴を学習するための新しいアーキテクチャを構築し、分類の前段階でクラス固有のモデルを事前学習すること。
• GANから得た識別的特徴を共有分類器に転移させることで、全体の正確度と特に少数クラスの精度を向上させること。
• 転移したGAN重みを凍結するか微調整するかが、少数クラスの予測のバランスに与える影響を調査すること。

提案手法

• 各クラスごとにGANを訓練し、そのクラス固有のデータ分布を学習するクラス固有のGANアーキテクチャを採用する。
• GANの識別器を二値分類器として学習させ、対象クラスの実データと生成データを区別させることで、クラス固有の特徴をエンコードする。
• 自動エンコーダー風の方法ではなく、事前学習済み識別器の重みを共有CNN分類器に転移させ、GANの識別能力を活用する。
• 教師あり学習中に転移した重みを微調整し、多クラス分類タスクに合わせた特徴の適応を可能にする。
• 2つのバリエーションを比較：CE-GAN（重みを微調整可能）とFCE-GAN（重みを凍結）で、微調整の有効性を評価する。
• 極端なクラス不均衡（例：Baldが少数クラス）を有する5つの顔貌属性クラスを含むスライス版CelebAデータセットに本手法を適用する。

実験結果

リサーチクエスチョン

• RQ1 標準的なCNNと比較して、GANベースの事前学習戦略は、極めて不均衡なデータセットにおける分類性能を向上させることができるか？
• RQ2 クラス固有の事前学習にGAN識別器を用いることで、自動エンコーダー基盤の事前学習よりも、少数クラス認識に優れた特徴表現が得られるか？
• RQ3 転移したGAN重みを微調整することで、少数クラスと多数クラスの予測バランスにどのような影響を与えるか？
• RQ4 ブートストラップ法やコストセンシティブ学習、他のGAN統合CNNと比較して、CE-GANフレームワークは正確度と精度の両面で優れているか？
• RQ5 転移したGAN重みを凍結する（FCE-GAN）か、微調整を許可する（CE-GAN）かによって、少数クラス検出にどのような影響があるか？

主な発見

• CE-GAN CNNは全体の正確度が87.38%に達し、ベースラインCNN（87.13%）や他のGANベースモデルを上回った。
• CE-GANはすべての少数クラスの精度を向上させた：5 O’Clock Shadow（65.20%）、Arched Eyebrows（76.00%）、Bags Under Eyes（77.35%）、Bald（77.78%）、いずれもベースラインCNNを上回った。
• 多数クラス「Attractive」の精度はCE-GANで1.57%向上し、より良い一般化性能とバイアスの低減を示した。
• 転移した重みを凍結するFCE-GANは著しく性能が低く、全体の精度は64.30%にとどまり、ブートストラップ法を適用したCNN（52.54%）やCosenCNN（58.54%）よりも劣った。
• CE-GANは5クラス中4クラスで最高のクラス別正確度を達成し、「Bags Under Eyes」クラスではベースラインCNNと比較してわずか0.45%の低下にとどまった。
• 生成画像の可視的検証により、GANが確かにクラス固有の特徴（例：ハゲ、5時シャドー）を正しく捉えていることが確認され、事前学習段階の特徴学習能力が裏付けられた。