[论文解读] MSE Loss with Outlying Label for Imbalanced Classification

Sota Kato, Kazuhiro Hotta|arXiv (Cornell University)|Jul 6, 2021

Imbalanced Data Classification Techniques参考文献 29被引用 7

一句话总结

本论文提出了一种新颖的损失函数，将均方误差（MSE）损失与异常类别标签相结合，以解决深度学习中的类别不平衡问题。通过根据类别频率重新加权标签，为稀有类别创建'异常'边界，该方法实现了跨类别的均衡反向传播，并改善了特征空间的分离效果，在仅修改损失函数和标签的情况下，在类别不平衡的图像分类和语义分割基准测试中实现了最先进性能。

ABSTRACT

In this paper, we propose mean squared error (MSE) loss with outlying label for class imbalanced classification. Cross entropy (CE) loss, which is widely used for image recognition, is learned so that the probability value of true class is closer to one by back propagation. However, for imbalanced datasets, the learning is insufficient for the classes with a small number of samples. Therefore, we propose a novel classification method using the MSE loss that can be learned the relationships of all classes no matter which image is input. Unlike CE loss, MSE loss is possible to equalize the number of back propagation for all classes and to learn the feature space considering the relationships between classes as metric learning. Furthermore, instead of the usual one-hot teacher label, we use a novel teacher label that takes the number of class samples into account. This induces the outlying label which depends on the number of samples in each class, and the class with a small number of samples has outlying margin in a feature space. It is possible to create the feature space for separating high-difficulty classes and low-difficulty classes. By the experiments on imbalanced classification and semantic segmentation, we confirmed that the proposed method was much improved in comparison with standard CE loss and conventional methods, even though only the loss and teacher labels were changed.

研究动机与目标

• 解决深度神经网络在类别不平衡数据集上对少数类泛化能力差的问题。
• 克服标准交叉熵损失中因类别不平衡导致的反向传播偏差。
• 通过将类间关系建模为度量学习，改善特征空间学习。
• 设计一种损失函数，提升低资源类别的学习效果，且无需数据重采样或复杂网络架构。
• 在图像分类与语义分割任务中均验证方法的有效性，且对现有训练流程仅做最小程度修改。

提出的方法

• 将标准的一热教师标签替换为基于类别样本频率缩放的异常标签。
• 定义异常标签，使得样本较少的类别在特征空间中被赋予更大的边界值。
• 使用MSE损失最小化网络预测与异常标签之间的L2距离，从而实现在所有类别间均衡的反向传播。
• 引入超参数α以控制异常边界的程度，实现对高频与低频类别之间分离程度的调节。
• 仅通过修改后的损失函数与标签进行模型训练，无需更改网络架构或数据增强策略。
• 将该方法应用于图像分类与语义分割任务，并利用t-SNE可视化分析学习到的特征空间。

实验结果

研究问题

• RQ1 与标准交叉熵损失相比，MSE损失结合异常标签是否能提升在类别不平衡数据集上的分类准确率？
• RQ2 所提出的方法是否能构建更具判别性的特征空间，有效分离高难度（稀有）类别与低难度（常见）类别？
• RQ3 控制异常边界的超参数α如何影响不同数据集及不同类别不平衡程度下的性能表现？
• RQ4 所提出的损失函数是否能在长尾类别分布的语义分割任务中实现最先进性能？
• RQ5 性能提升是源于更优的特征空间组织，还是仅仅因为增加了对少数类的损失权重？

主要发现

• 在长尾CIFAR-100数据集上，该方法实现了52.41%的top-1准确率，较加权交叉熵损失提升了1.43%。
• 在CamVid语义分割任务中，该方法达到72.69%的mIoU，较加权交叉熵损失提升5.2%，较Dice损失提升2.94%。
• 在CamVid上最优α值为6，此时mIoU达到峰值72.69%，当α > 6时性能开始下降，表明对超参数调优较为敏感。
• t-SNE可视化结果证实，增大α可增强稀有类别（如'Bicyclist'）与常见类别之间的分离，提升特征的判别能力。
• 在分类与分割任务中，该方法均优于Focal Loss及其他传统损失函数，展现出跨领域的鲁棒性。
• 性能提升仅通过修改损失函数与教师标签实现，未改变网络架构或数据采样策略。