[论文解读] Model and Data Agreement for Learning with Noisy Labels

Yuhang Zhang, Weihong Deng+4 more|arXiv (Cornell University)|Dec 2, 2022

Machine Learning and Data Classification被引用 6

一句话总结

本文提出了一种名为模型与数据一致性（MDA）的新方法，用于学习带噪声标签的数据，从模型和数据两个角度减轻误差累积。通过使用翻转图像检测噪声样本，并采用均值点集成方法提升模型鲁棒性，MDA在CIFAR-10、CIFAR-100和Clothing1M上均达到最先进性能，尤其在高噪声率下表现优异，并可与现有方法兼容以实现进一步性能提升。

ABSTRACT

Learning with noisy labels is a vital topic for practical deep learning as models should be robust to noisy open-world datasets in the wild. The state-of-the-art noisy label learning approach JoCoR fails when faced with a large ratio of noisy labels. Moreover, selecting small-loss samples can also cause error accumulation as once the noisy samples are mistakenly selected as small-loss samples, they are more likely to be selected again. In this paper, we try to deal with error accumulation in noisy label learning from both model and data perspectives. We introduce mean point ensemble to utilize a more robust loss function and more information from unselected samples to reduce error accumulation from the model perspective. Furthermore, as the flip images have the same semantic meaning as the original images, we select small-loss samples according to the loss values of flip images instead of the original ones to reduce error accumulation from the data perspective. Extensive experiments on CIFAR-10, CIFAR-100, and large-scale Clothing1M show that our method outperforms state-of-the-art noisy label learning methods with different levels of label noise. Our method can also be seamlessly combined with other noisy label learning methods to further improve their performance and generalize well to other tasks. The code is available in https://github.com/zyh-uaiaaaa/MDA-noisy-label-learning.

研究动机与目标

• 从模型和数据两个角度解决带噪声标签学习中的误差累积问题。
• 在标签噪声比率较高的情况下提升鲁棒性，此时现有方法如JoCoR会失效。
• 减少对小损失样本选择的依赖，因为该策略可能因选择噪声样本而持续累积错误。
• 开发一种可与现有带噪声标签学习框架兼容的方法，实现即插即用的性能增强。
• 将方法推广至图像分类以外的对称数据任务，如面部表情识别。

提出的方法

• 引入均值点集成方法，通过使用鲁棒损失函数结合两个模型，并利用未被选中的样本信息。
• 使用翻转图像上的损失值（而非原始图像）来识别和选择小损失样本，从而减少数据层面的误差累积。
• 利用翻转图像的语义不变性：尽管模型会记住原始的噪声样本，但不会记住翻转版本，从而实现更优的噪声样本检测。
• 将基于翻转图像的选择策略应用于清洁样本检测，避免因噪声样本错误地获得低损失而被选中。
• 将均值点集成与原始图像上的分类损失和差异损失结合，以协作方式训练两个模型，提升整体鲁棒性。
• 通过用MDA组件替换Co-teaching方法中的样本选择与损失函数，实现与现有方法的无缝集成。

实验结果

研究问题

• RQ1 能否通过从数据角度重新思考样本选择，来减少带噪声标签学习中的误差累积？
• RQ2 能否通过利用未被选中样本的信息，改进模型集成策略以提升对标签噪声的鲁棒性？
• RQ3 在带噪声标签设置下，使用翻转图像损失进行样本选择是否优于标准数据增强方法？
• RQ4 所提出的方法能否推广至图像分类以外的其他对称数据任务，如面部表情识别？
• RQ5 MDA能否与现有最先进方法有效结合，进一步提升性能？

主要发现

• 在80%标签噪声率下，MDA在CIFAR-10和CIFAR-100上的表现显著优于JoCoR，而JoCoR在此条件下完全失效。
• 在高噪声的Clothing1M数据集中，MDA实现了最先进性能，证明其在大规模数据集上的可扩展性。
• 仅使用翻转噪声检测模块即可在性能上超越标准数据增强方法，证明其在识别清洁样本方面的有效性。
• 均值点集成通过利用未被选中的样本和更稳定的损失函数，增强了模型鲁棒性，减少了误差累积。
• 当与Co-teaching结合时，MDA在CIFAR-10和CIFAR-100的所有噪声水平下均取得最佳性能，证实其即插即用的兼容性。
• MDA在RAF-DB数据集上的面部表情识别任务中表现良好，优于Co-teaching及其他SOTA FER方法，在多种噪声水平下均具优势。