[论文解读] Imbalanced Data Learning by Minority Class Augmentation using Capsule Adversarial Networks

Pourya Shamsolmoali, Masoumeh Zareapoor+3 more|arXiv (Cornell University)|Apr 5, 2020

Digital Media Forensic Detection参考文献 50被引用 9

一句话总结

该论文提出CapsAN，一种新颖的生成对抗网络，通过在判别器中集成胶囊网络来解决图像数据集中的类别不平衡问题。通过利用多元混合分布和特征匹配损失，CapsAN在不破坏多数类分布的前提下，生成多样化、高质量的少数类样本，在参数量少于基于CNN的GANs的情况下，实现了图像分类基准上的最先进性能。

ABSTRACT

The fact that image datasets are often imbalanced poses an intense challenge for deep learning techniques. In this paper, we propose a method to restore the balance in imbalanced images, by coalescing two concurrent methods, generative adversarial networks (GANs) and capsule network. In our model, generative and discriminative networks play a novel competitive game, in which the generator generates samples towards specific classes from multivariate probabilities distribution. The discriminator of our model is designed in a way that while recognizing the real and fake samples, it is also requires to assign classes to the inputs. Since GAN approaches require fully observed data during training, when the training samples are imbalanced, the approaches might generate similar samples which leading to data overfitting. This problem is addressed by providing all the available information from both the class components jointly in the adversarial training. It improves learning from imbalanced data by incorporating the majority distribution structure in the generation of new minority samples. Furthermore, the generator is trained with feature matching loss function to improve the training convergence. In addition, prevents generation of outliers and does not affect majority class space. The evaluations show the effectiveness of our proposed methodology; in particular, the coalescing of capsule-GAN is effective at recognizing highly overlapping classes with much fewer parameters compared with the convolutional-GAN.

研究动机与目标

• 为解决深度学习在类别不平衡图像数据集上性能下降的问题，特别是当少数类样本不足时。
• 克服标准GAN在数据不平衡和模式崩溃背景下，难以生成真实、多样化少数类样本的局限性。
• 通过用胶囊网络替代传统CNN，提升多分类设置下判别器的鲁棒性与泛化能力。
• 在数据生成过程中保持多数类分布的完整性，避免过拟合或分布偏移。
• 开发一种训练机制，结合特征匹配损失与多元概率分布，以稳定训练并提升样本质量。

提出的方法

• 所提出的CapsAN框架中，生成器接收噪声和类别标签，从多元混合分布中采样，以生成少数类图像。
• 判别器被重新设计为基于胶囊的多分类分类器（胶囊判别器，DC），其输出对应已知类别的多个聚类以及一个“虚假”类别，从而提升类别感知的判别能力。
• 生成器使用特征匹配损失函数进行训练，该函数最小化真实与生成特征表示之间的L1距离，从而稳定训练并防止生成异常样本。
• 模型在对抗训练过程中联合利用多数类与少数类数据，确保生成器学习到整个数据分布的潜在结构。
• 判别器中的胶囊网络比CNN更有效地捕捉层次化空间关系与姿态信息，从而增强特征表示与分类准确率。
• 该框架以端到端方式对抗性地进行训练，生成器根据胶囊基判别器的反馈持续优化。

实验结果

研究问题

• RQ1 与传统的基于CNN的判别器相比，胶囊基判别器是否能提升在类别不平衡图像数据集上的分类性能？
• RQ2 在生成器中引入多元混合分布是否能促进更丰富多样且更真实的少数类样本生成？
• RQ3 特征匹配损失是否能稳定在类别不平衡数据上训练的GAN，并减少模式崩溃？
• RQ4 CapsAN在增强少数类的同时，能在多大程度上保持多数类分布的完整性？
• RQ5 与现有基于GAN和非GAN的数据增强方法相比，CapsAN在性能与参数效率方面表现如何？

主要发现

• 在Data 4上，CapsAN的F1得分达到0.914，优于基线方法如SMOTE（0.796）、ADASYN（0.891）和CRL（0.874）。
• 在Data 5上，CapsAN的F1得分为0.889，超过次优方法ADASYN（0.889），并显著优于不平衡基线（0.693）。
• 在Data 6上，CapsAN的F1得分为0.845，超过SMOTE（0.661）、ADASYN（0.795）和CRL（0.819）。
• 在Data 7上，CapsAN的F1得分为0.823，优于不平衡基线（0.618）及其他基线如ADASYN（0.765）和CRL（0.784）。
• 该模型在识别高度重叠类别方面表现优异，且参数量显著少于同类卷积-GAN模型。
• 胶囊基判别器在输出空间中有效形成了清晰的聚类，从而提升了类别预测能力，并增强了对少数类的泛化性能。