[论文解读] Imbalanced Deep Learning by Minority Class Incremental Rectification

Qi Dong, Shaogang Gong+1 more|arXiv (Cornell University)|Apr 28, 2018

Imbalanced Data Classification Techniques参考文献 57被引用 4

一句话总结

该论文提出了一种新颖的类别校正损失（CRL），用于解决极端类别不平衡下的深度学习问题，通过在少数类上进行小批量增量难样本挖掘来纠正模型偏差。CRL在高度不平衡的 X-Domain 数据集上将性能提升了 5%，训练速度比当前最先进方法快 7 倍以上，同时在端到端训练中保持了收敛稳定性。

ABSTRACT

Model learning from class imbalanced training data is a long-standing and significant challenge for machine learning. In particular, existing deep learning methods consider mostly either class balanced data or moderately imbalanced data in model training, and ignore the challenge of learning from significantly imbalanced training data. To address this problem, we formulate a class imbalanced deep learning model based on batch-wise incremental minority (sparsely sampled) class rectification by hard sample mining in majority (frequently sampled) classes during model training. This model is designed to minimise the dominant effect of majority classes by discovering sparsely sampled boundaries of minority classes in an iterative batch-wise learning process. To that end, we introduce a Class Rectification Loss (CRL) function that can be deployed readily in deep network architectures. Extensive experimental evaluations are conducted on three imbalanced person attribute benchmark datasets (CelebA, X-Domain, DeepFashion) and one balanced object category benchmark dataset (CIFAR-100). These experimental results demonstrate the performance advantages and model scalability of the proposed batch-wise incremental minority class rectification model over the existing state-of-the-art models for addressing the problem of imbalanced data learning.

研究动机与目标

• 解决在极端类别不平衡视觉数据集（如具有幂律类别分布的人体属性识别）上训练深度神经网络的挑战。
• 克服现有方法在大规模、严重不平衡数据上表现不佳的问题，原因在于对少数类的泛化能力差。
• 开发一种可扩展的端到端深度学习框架，在保持随机梯度下降收敛性的同时，纠正对多数类的偏差。
• 实现对多标签、细粒度视觉属性的有效学习，这些属性具有细微的外观差异和极端的不平衡比率（例如 1:4,162）。
• 设计一种损失函数，能够在训练过程中动态识别并校正少数类的难样本边界，而无需数据重采样或复杂的代价敏感加权。

提出的方法

• 提出类别校正损失（CRL），通过在每个训练小批量中聚焦于少数类的难样本和稀疏采样样本，对模型学习进行正则化。
• 采用小批量增量校正策略：在每个小批量中，模型使用动态难样本挖掘策略识别并优先处理少数类的难负样本。
• 基于类别频率（ρ = 50%）定义少数类准则，将二分类不平衡推广至多分类不平衡设置。
• 结合特征与分类器的联合学习，通过 CRL 实现端到端优化，同时保持收敛稳定性。
• 使用超参数 κ 控制每批次选择的最困难样本数量；κ = 25 被发现能在性能与训练成本之间达到最佳平衡。
• CRL 具备即插即用特性，兼容标准深度网络架构，可应用于不平衡与平衡数据集。

实验结果

研究问题

• RQ1 是否能够通过深度学习框架在不进行数据重采样或代价敏感加权的情况下，有效缓解在极端类别不平衡视觉数据集中对多数类的偏差？
• RQ2 与全局或静态采样策略相比，对少数类进行增量式、小批量难样本挖掘如何提升模型的泛化能力？
• RQ3 CRL 正则化的最优范围是仅针对少数类，还是涵盖所有类别？其在准确率与训练成本之间如何权衡？
• RQ4 在多分类不平衡设置中，少数类阈值 ρ 的选择如何影响模型性能？
• RQ5 与当前最先进方法相比，所提出的 CRL 方法是否能在不平衡和平衡基准上均实现更优的性能与更高的训练效率？

主要发现

• 在 X-Domain 衣物属性数据集上，CRL 相较于基线方法 MTCT（73.53%）实现了 5.0% 的准确率提升，达到 81.30% 的平均准确率，显著优于最佳替代方法 LMLE。
• 在 CelebA 面部属性基准上，CRL 的平均准确率比 LMLE 高出 3.0%，表明其在中等不平衡数据上的强大性能。
• 由于高效的批量难样本挖掘，CRL 模型的训练时间比 LMLE 快 7 倍以上，X-Domain 上的训练时间仅为 77.6 小时，而 LMLE 超过 570 小时。
• 当 κ = 25 时，难样本挖掘达到最优性能；而 κ = 1（最困难样本挖掘）因噪声过大、边界过于稀疏导致训练不稳定。
• 将 CRL 应用于所有类别时，相比基线准确率提升 7.78%，但仅比仅针对少数类的范围实现 12.9% 的相对提升，表明仅聚焦少数类更具成本效益。
• 少数类准则 ρ = 50% 在性能与二分类定义的语义一致性之间达到最佳平衡，优于 ρ = 10% 和 ρ = 30%。