[论文解读] Are All Losses Created Equal: A Neural Collapse Perspective

Jin‐Xin Zhou, Chong You+5 more|arXiv (Cornell University)|Oct 4, 2022

Machine Learning and Data Classification被引用 8

一句话总结

该论文表明，在宽深度神经网络中，当训练达到全局最优时，多种深度学习损失函数——交叉熵、标签平滑、焦点损失、均方误差以及监督对比损失——会产生几乎相同的测试性能。通过神经坍缩框架，该研究证明所有损失函数在训练数据上的最后一层特征均等价，意味着其经验差异源于次优训练而非内在优越性。

ABSTRACT

While cross entropy (CE) is the most commonly used loss to train deep neural networks for classification tasks, many alternative losses have been developed to obtain better empirical performance. Among them, which one is the best to use is still a mystery, because there seem to be multiple factors affecting the answer, such as properties of the dataset, the choice of network architecture, and so on. This paper studies the choice of loss function by examining the last-layer features of deep networks, drawing inspiration from a recent line work showing that the global optimal solution of CE and mean-square-error (MSE) losses exhibits a Neural Collapse phenomenon. That is, for sufficiently large networks trained until convergence, (i) all features of the same class collapse to the corresponding class mean and (ii) the means associated with different classes are in a configuration where their pairwise distances are all equal and maximized. We extend such results and show through global solution and landscape analyses that a broad family of loss functions including commonly used label smoothing (LS) and focal loss (FL) exhibits Neural Collapse. Hence, all relevant losses(i.e., CE, LS, FL, MSE) produce equivalent features on training data. Based on the unconstrained feature model assumption, we provide either the global landscape analysis for LS loss or the local landscape analysis for FL loss and show that the (only!) global minimizers are neural collapse solutions, while all other critical points are strict saddles whose Hessian exhibit negative curvature directions either in the global scope for LS loss or in the local scope for FL loss near the optimal solution. The experiments further show that Neural Collapse features obtained from all relevant losses lead to largely identical performance on test data as well, provided that the network is sufficiently large and trained until convergence.

研究动机与目标

• 探究不同损失函数在深度学习中是否会导致根本不同的泛化性能。
• 检验某些损失函数（如焦点损失、标签平滑）在经验上表现更优的现象，是否源于优化过程而非内在归纳偏置。
• 将神经坍缩现象——此前仅知于交叉熵和MSE——扩展至包括标签平滑、焦点损失和监督对比损失在内的广泛损失函数类别。
• 确立在训练数据上实现等价神经坍缩解可预测不同损失函数之间近乎相同的测试性能。
• 阐明投影头和归一化等架构组件在对比损失（如SupCon）成功中的作用。

提出的方法

• 理论分析将神经坍缩现象扩展至包含CE、LS、FL、MSE和SupCon在内的广泛损失函数家族，通过证明在足够宽和充分优化条件下，所有损失函数均产生相同的全局极小值。
• 论文提出广义损失条件（定义GLoss），捕捉这些损失函数共有的对比特性，从而实现对它们全局最优性的统一分析。
• 证明单纯形ETF（等角紧框架）是所有此类损失函数的唯一全局极小值，确保训练数据上特征几何结构完全一致。
• 在CIFAR-10、CIFAR-100和mini-ImageNet数据集上的实证验证表明，当训练收敛时，所有损失函数的测试准确率几乎完全相同。
• 对Hessian结构的理论分析表明，标签平滑和焦点损失是全局或局部严格鞍函数，不存在虚假局部极小值，支持收敛至最优解。
• 通过特征空间旋转不变性分析表明，不同损失函数下等价的神经坍缩解意味着等价的测试性能，尽管损失形式不同。

实验结果

研究问题

• RQ1 当模型在宽网络中训练达到全局最优时，不同深度学习损失函数是否会导致根本不同的测试性能？
• RQ2 神经坍缩现象在多大程度上统一了宽神经网络中多样化损失函数的行为？
• RQ3 若在全局最优下理论等价，为何某些损失函数（如焦点损失、标签平滑）在经验上表现更优？
• RQ4 监督对比学习的成功是否可归因于损失函数本身，还是主要源于投影头和归一化等架构组件？
• RQ5 在训练数据上观察到的神经坍缩是否能可靠预测不同损失函数之间的泛化性能？

主要发现

• 在宽网络中，当训练达到全局最优时，所有考察的损失函数——交叉熵、标签平滑、焦点损失、均方误差和监督对比损失——均产生完全相同的测试性能。
• 所有损失函数的最后一层特征在训练数据上均坍缩为相同的单纯形ETF结构，仅通过旋转不同，这是由于在广义损失条件下共享全局极小值。
• 实证结果表明，当训练足够充分且网络足够宽时，不同损失函数之间的测试准确率差异消失，支持在神经坍缩下实现等价性。
• 理论分析确认，标签平滑和焦点损失是全局或局部严格鞍函数，不存在虚假局部极小值，从而支持收敛至最优解。
• 研究表明，监督对比损失的优势主要源于投影头和特征归一化的使用，而非损失函数本身。
• 在训练数据上的神经坍缩能可靠预测所有损失函数的测试性能，表明泛化性能由优化终点决定，而非损失形式。