[论文解读] Self-Filtering: A Noise-Aware Sample Selection for Label Noise with Confidence Penalization

Qi Wei, Haoliang Sun+2 more|arXiv (Cornell University)|Aug 24, 2022

Machine Learning and Data Classification被引用 5

一句话总结

本文提出 Self-Filtering (SFT)，一种针对标签噪声学习的噪声感知样本选择方法，通过检测历史模型预测的波动性来识别并过滤噪声样本，同时保留边界样本。通过结合记忆库以追踪预测结果和置信度惩罚正则化，SFT 在多种噪声类型下的多个基准测试中均实现了最先进性能，显著提升了模型的鲁棒性与泛化能力。

ABSTRACT

Sample selection is an effective strategy to mitigate the effect of label noise in robust learning. Typical strategies commonly apply the small-loss criterion to identify clean samples. However, those samples lying around the decision boundary with large losses usually entangle with noisy examples, which would be discarded with this criterion, leading to the heavy degeneration of the generalization performance. In this paper, we propose a novel selection strategy, extbf{S}elf- extbf{F}il extbf{t}ering (SFT), that utilizes the fluctuation of noisy examples in historical predictions to filter them, which can avoid the selection bias of the small-loss criterion for the boundary examples. Specifically, we introduce a memory bank module that stores the historical predictions of each example and dynamically updates to support the selection for the subsequent learning iteration. Besides, to reduce the accumulated error of the sample selection bias of SFT, we devise a regularization term to penalize the confident output distribution. By increasing the weight of the misclassified categories with this term, the loss function is robust to label noise in mild conditions. We conduct extensive experiments on three benchmarks with variant noise types and achieve the new state-of-the-art. Ablation studies and further analysis verify the virtue of SFT for sample selection in robust learning.

研究动机与目标

• 解决基于小损失的样本选择方法的局限性，该方法因高损失而丢弃边界样本并引入选择偏差。
• 克服现有方法中固定损失阈值的敏感性与可扩展性问题。
• 通过保留对决策边界学习至关重要的边界样本，提升模型泛化能力。
• 通过引入置信度惩罚正则化项，减少迭代训练中累积的选择偏差。
• 在多种噪声设置与学习范式（包括半监督学习）下，验证该框架的有效性与通用性。

提出的方法

• 引入一个记忆库模块，用于存储每个训练样本在多个训练迭代中的历史预测结果。
• 定义波动性标准：若样本在连续训练步骤中其预测在正确与错误之间反复切换，则被标记为噪声样本。
• 以波动模式为基础进行样本选择：噪声样本表现出频繁切换，而干净样本则预测稳定。
• 在训练过程中动态更新记忆库，以支持后续迭代中的持续选择。
• 设计一个置信度惩罚正则化项，提高误分类类别的损失权重，降低模型过自信程度，从而缓解选择偏差。
• 将框架与 FixMatch 集成以应用于半监督学习，利用未标记样本及被丢弃的噪声样本进一步提升性能。

实验结果

研究问题

• RQ1 历史预测的波动性是否能可靠地区分噪声样本与干净样本，特别是那些常被小损失标准丢弃的边界样本？
• RQ2 与传统的基于小损失或投票的选择策略相比，所提出的基于波动性的选择策略在保留边界样本与提升泛化能力方面表现如何？
• RQ3 置信度惩罚在迭代训练中减少选择偏差累积方面的作用程度如何？
• RQ4 该 Self-Filtering 框架在不同噪声类型（对称、非对称）与噪声比例下的鲁棒性如何？
• RQ5 该框架能否有效结合现有半监督学习方法，进一步提升在噪声数据集上的性能？

主要发现

• 在 40% 对称标签噪声的 CIFAR-10 上，SFT 达到 92.15% 的测试准确率，优于先前方法，实现最先进性能。
• 在 40% 对称噪声的 CIFAR-100 上，SFT 实现 69.34% 的测试准确率，展现出在高噪声水平下的强鲁棒性。
• 消融实验表明，若移除置信度惩罚项，平均测试准确率下降 3.72%，证实其在缓解选择偏差中的关键作用。
• 与多数投票方法相比，基于波动性的选择策略显著提升了样本选择的 F1 分数，表明其对干净样本的识别能力更强。
• 所选训练子集的大小与实际干净样本数量高度接近，如图 10 所示，所选集合大小趋近于水平参考线。
• 最优记忆库大小为 T=3，因更大的尺寸会导致边界样本被过度过滤而性能下降，消融实验验证了该设计选择的合理性。