[论文解读] A Comparative Study of Deep Learning Loss Functions for Multi-Label Remote Sensing Image Classification

Hichame Yessou, Gencer Sumbül+1 more|arXiv (Cornell University)|Sep 29, 2020

Remote-Sensing Image Classification参考文献 17被引用 48

一句话总结

本文对七种深度学习损失函数——交叉熵、焦点损失、加权交叉熵、汉明损失、Huber损失、排序损失和sparseMax损失——在多标签遥感图像分类任务中进行了全面的对比分析。基于BigEarthNet-19基准数据集，从准确率、类别不平衡处理能力、凸性/可微性以及训练效率四个方面评估了其性能，结果表明sparseMax损失在F1得分上达到最高（69.9%），在实现平衡且高准确率分类方面最为有效；而焦点损失和加权交叉熵损失在处理类别不平衡数据集方面表现更优。

ABSTRACT

This paper analyzes and compares different deep learning loss functions in the framework of multi-label remote sensing (RS) image scene classification problems. We consider seven loss functions: 1) cross-entropy loss; 2) focal loss; 3) weighted cross-entropy loss; 4) Hamming loss; 5) Huber loss; 6) ranking loss; and 7) sparseMax loss. All the considered loss functions are analyzed for the first time in RS. After a theoretical analysis, an experimental analysis is carried out to compare the considered loss functions in terms of their: 1) overall accuracy; 2) class imbalance awareness (for which the number of samples associated to each class significantly varies); 3) convexibility and differentiability; and 4) learning efficiency (i.e., convergence speed). On the basis of our analysis, some guidelines are derived for a proper selection of a loss function in multi-label RS scene classification problems.

研究动机与目标

• 分析并比较七种深度学习损失函数在多标签遥感（RS）图像分类背景下的表现。
• 从整体准确率、类别不平衡感知能力、凸性与可微性以及学习效率四个方面评估这些损失函数的性能。
• 根据特定应用需求（如类别不平衡、训练速度和模型可靠性）提供选择最适配损失函数的实用指导。
• 通过在BigEarthNet-19基准数据集上使用标准CNN架构进行实验，验证理论发现。

提出的方法

• 研究评估了七种损失函数：交叉熵（CEL）、焦点损失（FL）、加权交叉熵（W-CEL）、汉明损失（HAL）、Huber损失（HL）、排序损失（RL）和sparseMax损失（SML）。
• 对每种损失函数从凸性、可微性以及对类别不平衡的敏感性方面进行理论分析。
• 在BigEarthNet-19数据集上进行实验，采用具有1024个单元的全连接层的标准化CNN模型，使用RMSprop优化器训练80个周期，初始学习率为10⁻⁴。
• 通过精确率、召回率和F1得分衡量性能；使用LRP（逐层重要性传播）生成热图以增强模型注意力的可解释性与可视化效果。
• 从四个标准对损失函数进行比较：整体准确率、类别不平衡感知能力、凸性与可微性，以及学习效率（收敛速度）。
• 结合理论分析与实证研究，推导出适用于多标签遥感图像分类任务的损失函数选择指南。

实验结果

研究问题

• RQ1 在多标签遥感图像分类任务中，哪种深度学习损失函数能实现最高的整体分类准确率？
• RQ2 不同损失函数在处理遥感数据集中常见的类别不平衡训练集方面表现如何？
• RQ3 哪些损失函数具有凸性与可微性？这如何影响训练的稳定性和收敛性？
• RQ4 各损失函数在训练过程中的学习效率（即收敛速度）如何比较？
• RQ5 通过LRP生成的注意力图（热图）如何反映不同损失函数下预测结果的可靠性与可解释性？

主要发现

• sparseMax损失（SML）实现了最高的F1得分69.9%，在整体分类准确率方面优于所有其他损失函数。
• 焦点损失（FL）和加权交叉熵损失（W-CEL）在处理类别不平衡方面表现更优，其中FL专注于难样本（硬负样本），而W-CEL则为少数类赋予更高权重。
• Huber损失（HL）和排序损失（RL）分别表现出高精确率和高召回率，但其F1得分较低，反映出性能之间的权衡，表明平衡性不足。
• SML和RL损失函数展现出最快的收敛速度，在训练初期即达到更高的F1得分，优于其他方法。
• 具有凸性与可微性的损失函数（如SML、W-CEL和FL）生成的LRP热图更可靠且更具可解释性，而HAL和RL则表现出不规则、可信度较低的注意力模式。
• 理论与实证分析共同证实，SML在准确率、可解释性与学习效率之间提供了最佳平衡，因此最适用于高精度多标签遥感图像分类任务。