[论文解读] Removing Class Imbalance using Polarity-GAN: An Uncertainty Sampling Approach

Deepshikha Kumari, Anugunj Naman|arXiv (Cornell University)|Dec 9, 2020

Digital Imaging for Blood Diseases被引用 7

一句话总结

该论文提出Polarity-GAN，一种基于生成对抗网络（GAN）的方法，通过在少数类的凸包内训练生成器生成合成样本，同时与判别器和分类器竞争，以改善边界学习，从而缓解视觉数据集中的类别不平衡问题。该方法在多个极端视觉分类基准测试中达到最先进性能，包括FashionMNIST、SVHN和COVIDx，在类别极度不平衡的鸟类数据上F1分数最高达0.98。

ABSTRACT

Class imbalance is a challenging issue in practical classification problems for deep learning models as well as for traditional models. Traditionally successful countermeasures such as synthetic over-sampling have had limited success with complex, structured data handled by deep learning models. In this work, we propose to use a Generative Adversarial Network (GAN) equipped with a generator network G, a discriminator network D and a classifier network C to remove the class-imbalance in visual data sets. The generator network is initialized with auto-encoder to make it stable. The discriminator D ensures that G adheres to class distribution of imbalanced class. In conventional methods, where Generator G competes with discriminator D in a min-max game, we propose to further add an additional classifier network to the original network. Now, the generator network tries to compete in a min-max game with Discriminator as well as the new classifier that we have introduced. An additional condition is enforced on generator network G to produce points in the convex hull of desired imbalanced class. Further the contention of adversarial game with classifier C, pushes conditional distribution learned by G towards the periphery of the respective class, compensating the problem of class imbalance. Experimental evidence shows that this initialization results in stable training of the network. We achieve state of the art performance on extreme visual classification task on the FashionMNIST, MNIST, SVHN, ExDark, MVTec Anomaly Detection dataset, Chest X-Ray dataset and others.

研究动机与目标

• 解决少数类别训练样本极少的极端类别不平衡视觉数据集中的挑战。
• 克服传统数据级方法（如SMOTE和过采样）在复杂高维数据中表现不佳且易过拟合的局限性。
• 通过生成高质量、多样化的合成样本（位于少数类分布边界处）来提升深度学习模型在少数类上的性能。
• 提出一种新颖的不确定性采样框架，利用改进的GAN架构主动识别并生成少数类的难分类、高信息量样本。
• 通过自编码器初始化稳定GAN训练，并对生成样本施加结构约束，以提升泛化能力和鲁棒性。

提出的方法

• 提出一种改进的GAN架构，包含三个组件：生成器G、判别器D和分类器C，形成G同时与D和C竞争的极小化-极大化博弈。
• 使用预训练自编码器初始化生成器，以提升训练稳定性并确保更好的特征重建。
• 施加几何约束，确保生成样本位于少数类训练数据的凸包内部，以保留类别特异性结构。
• 使用不确定性采样度量（最小置信度、置信度间隔、置信度比率和熵）识别并优先生成难分类样本。
• 训练生成器生成在分类器中预测置信度最低（即不确定性最高）的样本，从而提升模型对模糊或罕见样本的鲁棒性。
• 利用判别器的对抗损失和分类器的分类损失，推动生成样本向少数类分布的外围移动，增强边界学习。

实验结果

研究问题

• RQ1 基于GAN的方法能否在少数类样本少于100个的极端类别不平衡场景中有效生成高质量合成样本？
• RQ2 在少数类样本的凸包内约束生成器输出，对模型泛化能力和少数类性能有何影响？
• RQ3 与标准GAN相比，将分类器作为额外判别器在多大程度上提升了生成样本的质量和多样性？
• RQ4 所提出方法能否在标注数据有限的主动学习设置中作为有效的不确定性采样策略？
• RQ5 自编码器初始化与凸包约束的结合是否相比标准GAN在类别不平衡视觉数据上带来了更稳定的训练？

主要发现

• 在Kaggle鸟类数据集上，Polarity-GAN在类别比例高达300:100:100:100的极端不平衡设置下，F1分数达到0.98，优于先前方法。
• 在Covidx数据集上，PGAN的F1分数为0.96，成功识别出0.4%的罕见COVID-19病例——此前基线模型曾错误分类，表明其在超罕见类别上表现强劲。
• 在SVHN数据集上，类别比例在5000至50之间，PGAN的F1分数达到0.78，显示出在不同不平衡程度下的鲁棒性。
• 在ExDark数据集（12个类别、极端不平衡的低光照图像分类）上，PGAN的F1分数为0.54，表明其在挑战性视觉条件下依然有效。
• 在UCF101视频动作识别数据集（类别不平衡，如399 vs. 2000+样本）上，PGAN的F1分数为0.74，证实其在静态图像之外的适用性。
• 该方法在所有评估数据集上（包括MNIST、FashionMNIST和MVTec异常检测）持续优于当前最先进基线，证明其在极端视觉分类任务中的广泛有效性。