[论文解读] Confidence Adaptive Regularization for Deep Learning with Noisy Labels

Yangdi Lu, Bo Yang+1 more|arXiv (Cornell University)|Aug 18, 2021

Machine Learning and Data Classification参考文献 53被引用 7

一句话总结

本文提出置信度自适应正则化（CAR），一种通过引入估计预测置信度的指示分支来提升深度学习在噪声标签下的鲁棒性的新方法。该方法使用置信度感知损失和辅助正则化，以抑制对错误标注样本的记忆化，从而在CIFAR-10、CIFAR-100、WebVision和Clothing1M数据集上，在各种噪声设置下均实现了最先进性能。

ABSTRACT

Recent studies on the memorization effects of deep neural networks on noisy labels show that the networks first fit the correctly-labeled training samples before memorizing the mislabeled samples. Motivated by this early-learning phenomenon, we propose a novel method to prevent memorization of the mislabeled samples. Unlike the existing approaches which use the model output to identify or ignore the mislabeled samples, we introduce an indicator branch to the original model and enable the model to produce a confidence value for each sample. The confidence values are incorporated in our loss function which is learned to assign large confidence values to correctly-labeled samples and small confidence values to mislabeled samples. We also propose an auxiliary regularization term to further improve the robustness of the model. To improve the performance, we gradually correct the noisy labels with a well-designed target estimation strategy. We provide the theoretical analysis and conduct the experiments on synthetic and real-world datasets, demonstrating that our approach achieves comparable results to the state-of-the-art methods.

研究动机与目标

• 解决深度神经网络在训练过程中记忆错误标注样本的问题，该问题会降低模型泛化能力。
• 利用早期学习现象——即干净样本在错误标注样本之前被学习到——来指导鲁棒训练。
• 开发一种方法，通过置信度估计动态识别并降低错误标注样本的权重，而非依赖固定的损失修正或样本选择。
• 通过新颖的置信度自适应损失和辅助正则化，明确区分干净样本与噪声样本，从而提升模型鲁棒性。
• 通过从训练过程中模型预测估计目标概率，实现在无需干净标签的情况下有效进行标签修正。

提出的方法

• 在主模型中引入一个指示分支，用于为每个输入样本预测一个置信度分数，以区分干净样本与错误标注样本。
• 设计一种置信度自适应损失（CAL），以鼓励对正确标注样本保持高置信度，而对错误标注样本保持低置信度。
• 提出一种辅助正则化项（CAR），通过鼓励低置信度和高预测差异性，进一步惩罚错误标注样本。
• 实施一种动态目标估计策略，将噪声标签替换为从模型预测中导出的软伪标签，从而在早期训练中提升鲁棒性。
• 使用基于动量的移动平均来稳定目标估计，减少伪标签中的噪声。
• 使用结合交叉熵、CAL和CAR的复合损失进行模型训练，其中超参数根据噪声水平和数据集难度进行调优。

实验结果

研究问题

• RQ1 在早期训练中，仅通过置信度估计是否能有效识别并抑制错误标注样本，而无需事先了解标签质量？
• RQ2 在高标签噪声条件下，所提出的置信度自适应正则化（CAR）与现有鲁棒训练方法相比，在泛化性能上表现如何？
• RQ3 与直接使用噪声标签或采用时间集成的方法相比，动态目标估计在多大程度上提升了模型性能？
• RQ4 该方法对超参数选择的敏感度如何？哪些参数设置能在多种数据集和噪声水平下确保鲁棒性？
• RQ5 CAR中的辅助正则化项是否在理论上和实证上均提供了缓解噪声标签影响的优势？

主要发现

• 在CIFAR-10数据集上，CAR在40%对称噪声下达到93.49% ± 0.07的准确率，在80%对称噪声下达到38.24% ± 0.55的准确率，优于交叉熵（CE）和其他基线方法。
• 在CIFAR-100数据集上，80%对称噪声下，CAR达到38.24%的准确率，显著优于无目标估计的CAR（31.33% ± 0.38）和时间集成方法（10.28% ± 1.67）。
• 采用动态目标估计的方法在性能上优于直接使用噪声标签，CE方法采用相同策略时在CIFAR-10（40%非对称噪声）上达到92.64%的准确率，但CAR整体仍表现更优。
• 消融实验表明，所提出的基于目标估计策略的CAR在所有数据集和噪声类型下，始终优于其他替代方案，包括时间集成和无估计方法。
• 超参数敏感性分析显示，该方法对λ、β、E_c、α和δ的中等变化具有鲁棒性，仅当参数设置为极端值时性能才会下降。
• 理论分析证实，CAL和CAR能中和来自错误标注样本的梯度，同时保留来自干净样本的梯度主导性，从而确保稳定且鲁棒的优化。