[論文レビュー] Removing Class Imbalance using Polarity-GAN: An Uncertainty Sampling Approach

Deepshikha Kumari, Anugunj Naman|arXiv (Cornell University)|Dec 9, 2020

Digital Imaging for Blood Diseases被引用数 7

ひとこと要約

本稿では、少数クラスの凸包内に合成サンプルを生成するように訓練する生成器を備えたGANベースの手法、Polarity-GANを提案する。生成器は、境界学習を向上させるために、ディスクライマーや分類器と競争する。この手法は、FashionMNIST、SVHN、COVIDxなど、複数の極端な視覚分類ベンチマークで最先端の性能を達成しており、不均衡な鳥の種類データにおいてF1スコアが最大0.98に達する。

ABSTRACT

Class imbalance is a challenging issue in practical classification problems for deep learning models as well as for traditional models. Traditionally successful countermeasures such as synthetic over-sampling have had limited success with complex, structured data handled by deep learning models. In this work, we propose to use a Generative Adversarial Network (GAN) equipped with a generator network G, a discriminator network D and a classifier network C to remove the class-imbalance in visual data sets. The generator network is initialized with auto-encoder to make it stable. The discriminator D ensures that G adheres to class distribution of imbalanced class. In conventional methods, where Generator G competes with discriminator D in a min-max game, we propose to further add an additional classifier network to the original network. Now, the generator network tries to compete in a min-max game with Discriminator as well as the new classifier that we have introduced. An additional condition is enforced on generator network G to produce points in the convex hull of desired imbalanced class. Further the contention of adversarial game with classifier C, pushes conditional distribution learned by G towards the periphery of the respective class, compensating the problem of class imbalance. Experimental evidence shows that this initialization results in stable training of the network. We achieve state of the art performance on extreme visual classification task on the FashionMNIST, MNIST, SVHN, ExDark, MVTec Anomaly Detection dataset, Chest X-Ray dataset and others.

研究の動機と目的

• 少数クラスに非常に少ないトレーニングサンプルが存在する視覚データセットにおける極端なクラス不均衡の課題に対処すること。
• SMOTE やオーバーサンプリングなどの従来のデータレベル手法が、複雑で高次元のデータでは困難であり、過学習のリスクを伴うという制限を克服すること。
• 少数クラスの分布境界に位置する高品質で多様な合成サンプルを生成することで、ディープラーニングモデルの少数クラスにおける性能を向上させること。
• 修正されたGANアーキテクチャを用いた新しい不確実性サンプリングフレームワークを導入し、少数クラスのハードで情報量の多いサンプルを能動的に特定・生成すること。
• 自己符号化器の初期化と生成サンプルへの構造的制約を導入することで、GANの訓練を安定化させ、一般化性能とロバストネスを向上させること。

提案手法

• 生成器G、ディスクライマーD、分類器Cの3つのコンponentsを備えた修正されたGANアーキテクチャを提案し、GがDおよびCの両者と競争するミニマックスゲームを形成する。
• 生成器の訓練安定性を向上させ、より良い特徴再構成を実現するため、事前学習済みの自己符号化器で生成器を初期化する。
• 生成されたサンプルが少数クラスのトレーニングデータの凸包内に位置することを幾何的制約として強制することで、クラス固有の構造を保持する。
• 最小信頼度、信頼度のマージン、信頼度の比、エントロピーといった不確実性サンプリング指標を用い、分類が難しいサンプルを特定・優先して生成する。
• 分類器における予測の信頼度が低い（つまり不確実性が高い）サンプルを生成することで、曖昧または希少な例に対するモデルのロバストネスを向上させる。
• ディスクライマーからの adversarial loss と分類器からの classification loss を活用し、生成サンプルが少数クラス分布の周縁に近づくように促進することで、境界学習を強化する。

実験結果

リサーチクエスチョン

• RQ1 少数クラスに100件未塔のサンプルしか存在しない極端なクラス不均衡状況において、GANベースのアプローチが高品質な合成サンプルを効果的に生成できるか。
• RQ2 少数クラスのサンプルの凸包内に生成出力を制約することで、モデルの一般化性能と少数クラスの性能にどのような影響を与えるか。
• RQ3 標準GANと比較して、追加の敵対的アーキテクチャとして分類器を導入することで、生成サンプルの質と多様性がどの程度向上するか。
• RQ4 提案手法が、ラベル付きデータが限られたアクティブラーニング設定において、効果的な不確実性サンプリング戦略として機能できるか。
• RQ5 自己符号化器の初期化と凸包制約の組み合わせが、不均衡な視覚データに対して標準GANと比較して、より安定したGAN訓練をもたらすか。

主な発見

• Kaggle Birdsデータセットにおいて、クラス比が300:100:100:100と極めて不均衡な状況下で、Polarity-GANはF1スコア0.98を達成し、この極端な不均衡状況で先行手法を上回った。
• Covidxデータセットでは、PGANがF1スコア0.96を達成し、希少なCOVID-19症例の0.4%を正しく分類した。これは、従来のベースラインモデルが誤分類していたものを補正したことを示しており、超希少クラスでも優れた性能を発揮している。
• SVHNでは、クラス比が5000対50件の範囲で、PGANがF1スコア0.78を達成し、さまざまな不均衡度においてもロバストネスを示した。
• ExDark（12クラス、極端な不均衡を示す低照度画像分類データセット）では、PGANがF1スコア0.54を達成し、困難な視覚的条件下でも有効性を示した。
• UCF101（動画行動認識データセット、例：399 vs. 2000+件のサンプル）では、PGANがF1スコア0.74を達成し、静的画像データを超えた応用可能性を確認した。
• 本手法は、MNIST、FashionMNIST、MVTec Anomaly Detectionを含む、評価されたすべてのデータセットで、SOTAベースラインを一貫して上回った。これは、極端な視覚分類タスクにおける広範な有効性を示している。