[论文解读] SemiNLL: A Framework of Noisy-Label Learning by Semi-Supervised Learning

Zhuowei Wang, Jing Jiang+5 more|arXiv (Cornell University)|Dec 2, 2020

Machine Learning and Data Classification参考文献 52被引用 10

一句话总结

本文提出SemiNLL，一种多功能框架，以端到端方式整合样本选择（SS）策略与半生学习（SSL）主干模型，以提升在标签噪声下的深度学习性能。通过灵活组合强效SS方法与SSL模型（如DivideMix+和GPL），该框架在模拟与真实世界噪声数据集上均取得最先进性能，包括在Clothing1M数据集上达到74.14%的测试准确率。

ABSTRACT

Deep learning with noisy labels is a challenging task. Recent prominent methods that build on a specific sample selection (SS) strategy and a specific semi-supervised learning (SSL) model achieved state-of-the-art performance. Intuitively, better performance could be achieved if stronger SS strategies and SSL models are employed. Following this intuition, one might easily derive various effective noisy-label learning methods using different combinations of SS strategies and SSL models, which is, however, reinventing the wheel in essence. To prevent this problem, we propose SemiNLL, a versatile framework that combines SS strategies and SSL models in an end-to-end manner. Our framework can absorb various SS strategies and SSL backbones, utilizing their power to achieve promising performance. We also instantiate our framework with different combinations, which set the new state of the art on benchmark-simulated and real-world datasets with noisy labels.

研究动机与目标

• 解决在标签噪声下训练深度神经网络的挑战，此类噪声会严重降低模型性能。
• 克服以往方法孤立地重复设计特定SS策略与SSL模型所导致的低效与冗余问题。
• 开发一种可泛化的框架，实现多样化SS策略与SSL主干模型的无缝集成，以获得更优性能。
• 证明当更强的SS与SSL组件在框架内结合时，整体性能可得到显著提升。

提出的方法

• 提出一种端到端框架SemiNLL，统一样本选择（SS）与半生学习（SSL），用于噪声标签学习。
• 引入一种基于小批量的SS策略，根据低损失动态选择干净样本，替代先前工作中使用的基于训练周期的筛选方式。
• 将多种SS策略（如自预测分割器、高斯混合模型GMM）与多种SSL主干模型（如MixMatch、伪标签法、时间集成）进行集成。
• 通过两种新方法实例化该框架：DivideMix+，采用小批量SS策略与MixMatch SSL主干；GPL，采用双组件GMM进行样本选择，并以伪标签法作为SSL主干。
• 在SSL主干中利用一致性正则化、熵最小化以及数据增强技术（如MixUp）以提升未标记数据的泛化能力。
• 使用联合目标函数进行模型训练，该函数结合了在选定干净样本上的交叉熵损失，以及在未标记样本上的一致性/熵正则化损失。

实验结果

研究问题

• RQ1 统一框架能否有效结合多样化的样本选择策略与半生学习主干模型，从而提升噪声标签学习的性能？
• RQ2 在高噪声比率下，基于小批量的样本选择策略与基于训练周期的策略相比，在鲁棒性与准确率方面表现如何？
• RQ3 当与先进SS策略结合时，更强的SSL主干模型（如MixMatch、伪标签法）能在多大程度上提升性能？
• RQ4 与现有最先进方法相比，该框架在真实世界噪声数据集（如Clothing1M）上的表现如何？
• RQ5 在高噪声比率的非对称噪声设置下，使用高斯混合模型（GMM）与基于自预测的选择方法相比，性能影响如何？

主要发现

• DivideMix+在Clothing1M数据集上达到74.14%的测试准确率，优于原始DivideMix及其他SOTA方法。
• 在CIFAR-100的对称80%噪声比率设置下，DivideMix+相比使用自预测分割器而非GMM的DivideMix-，准确率提升12.69%，证明在高噪声环境下基于GMM的选择策略更具优势。
• GPL结合双组件GMM进行样本选择与伪标签法作为SSL主干，在高噪声场景下表现优异，尤其在复杂噪声设置中。
• SPD-伪标签法（使用自预测分割器与伪标签法）在CIFAR-100的80%噪声设置下，相比SPD-MixMatch准确率高出21.44%，相比SPD-时间集成方法高出42.66%。
• 若移除SSL主干（即仅通过交叉熵在干净样本上训练），性能将急剧下降，尤其在高噪声与类别较多的数据集中，凸显利用未标记数据的重要性。
• SemiNLL中的小批量SS策略在所有挑战性设置（尤其是高噪声比率）下，均持续优于DivideMix中使用基于训练周期的策略。