[论文解读] Max-margin Class Imbalanced Learning with Gaussian Affinity

Munawar Hayat, Salman H. Khan+3 more|arXiv (Cornell University)|Jan 23, 2019

Imbalanced Data Classification Techniques参考文献 58被引用 16

一句话总结

本文提出了一种新颖的可微分损失函数——关联损失（Affinity Loss），该函数基于Bregman散度的高斯关联性，在欧几里得空间中联合执行最大间隔分类与聚类。通过学习多个均匀分布且等距的类别原型，该方法在类别不平衡数据集上提升了泛化能力和鲁棒性，在图像分类与验证基准测试中实现了最先进性能，且计算开销极低。

ABSTRACT

Real-world object classes appear in imbalanced ratios. This poses a significant challenge for classifiers which get biased towards frequent classes. We hypothesize that improving the generalization capability of a classifier should improve learning on imbalanced datasets. Here, we introduce the first hybrid loss function that jointly performs classification and clustering in a single formulation. Our approach is based on an `affinity measure' in Euclidean space that leads to the following benefits: (1) direct enforcement of maximum margin constraints on classification boundaries, (2) a tractable way to ensure uniformly spaced and equidistant cluster centers, (3) flexibility to learn multiple class prototypes to support diversity and discriminability in feature space. Our extensive experiments demonstrate the significant performance improvements on visual classification and verification tasks on multiple imbalanced datasets. The proposed loss can easily be plugged in any deep architecture as a differentiable block and demonstrates robustness against different levels of data imbalance and corrupted labels.

研究动机与目标

• 解决深度学习中的类别不平衡问题，其中罕见类别样本不足，分类器易偏向频繁类别。
• 通过在特征空间中联合优化分类与聚类，提升模型泛化能力，实现所有类别间表示的均衡。
• 设计一种可微分、即插即用的损失函数，支持在欧几里得空间中学习多个均匀分布且等距的类别原型。
• 克服标准Softmax损失的局限性，后者缺乏显式的间隔约束，且在训练与测试数据分布发生变化时表现不佳。
• 通过特征空间聚类的几何约束，提升对标签噪声及不同水平数据不平衡的鲁棒性。

提出的方法

• 基于Bregman散度导出的高斯相似性，构建新的损失函数，利用深层特征与学习到的类别原型之间的L2距离。
• 为每个类别引入多个可学习的类别原型，以捕捉类内多样性并支持复杂的数据分布。
• 通过几何约束确保当原型数量小于嵌入维度加一的条件下，原型均匀分布且等距。
• 通过可学习的扩展参数σ控制类内差异，该参数通过高斯相似性度量调节聚类的大小与形状。
• 采用可微分、端到端可训练的模块，可无缝集成到任意深度神经网络架构中，且不增加推理阶段的计算成本。
• 通过同时优化类间分离性与类内紧凑性，实现最大间隔分类与聚类的联合优化。

实验结果

研究问题

• RQ1 是否存在一种统一的损失函数，可在欧几里得空间中联合优化分类与聚类，从而提升在类别不平衡数据集上的泛化能力？
• RQ2 学习多个具有几何约束的类别原型，对罕见类别与不平衡类别性能的影响如何？
• RQ3 在不同水平的数据不平衡与标签噪声条件下，所提出的关联损失在多大程度上优于标准Softmax及其他最先进方法？
• RQ4 在实现对类别不平衡基准测试的鲁棒性能方面，聚类扩展（σ）与每类原型数量的最优配置是什么？
• RQ5 基于Bregman散度的高斯关联性是否能实现比角度间隔方法更稳定、更具泛化能力的特征空间聚类？

主要发现

• 在仅使用前五个数字10%样本的不平衡MNIST数据集上，所提出的关联损失将测试错误率降低至99.3%，显著优于标准Softmax及其他基线方法。
• 每类5个或以上原型时性能最佳，表明多中心学习可增强表示多样性与鲁棒性。
• σ值在5至20之间时性能最优；过大的σ值会导致聚类重叠，因类内方差增加而降低性能。
• 该损失函数对标签噪声具有鲁棒性，在CIFAR-100与FG-VC-100等多个不平衡数据集上均保持高准确率。
• 使用平方ℓ₂距离与高斯相似性可获得最佳结果，而ℓ₁距离与高斯相似性则无法收敛。
• 该方法可为多数类与少数类均生成大小均匀且等距的聚类，而Softmax损失则导致罕见类别表示出现偏斜与压缩。