[论文解读] Online Continual Learning on a Contaminated Data Stream with Blurry Task Boundaries

Jihwan Bang, Hyunseo Koh+4 more|arXiv (Cornell University)|Mar 29, 2022

Machine Learning and Data Classification被引用 7

一句话总结

该论文提出 PuriDivER，一种统一框架，用于在存在噪声、污染的数据流和模糊任务边界（类别重叠、标签不可靠）的在线持续学习场景中进行学习。通过在情景记忆中自适应地平衡多样性与纯度，结合噪声感知采样和半监督鲁棒学习，PuriDivER 在 CIFAR-10/100、mini-WebVision 和 Food-101N 上在不同噪声比率下均实现了最先进性能。

ABSTRACT

Learning under a continuously changing data distribution with incorrect labels is a desirable real-world problem yet challenging. A large body of continual learning (CL) methods, however, assumes data streams with clean labels, and online learning scenarios under noisy data streams are yet underexplored. We consider a more practical CL task setup of an online learning from blurry data stream with corrupted labels, where existing CL methods struggle. To address the task, we first argue the importance of both diversity and purity of examples in the episodic memory of continual learning models. To balance diversity and purity in the episodic memory, we propose a novel strategy to manage and use the memory by a unified approach of label noise aware diverse sampling and robust learning with semi-supervised learning. Our empirical validations on four real-world or synthetic noise datasets (CIFAR10 and 100, mini-WebVision, and Food-101N) exhibit that our method significantly outperforms prior arts in this realistic and challenging continual learning scenario. Code and data splits are available in https://github.com/clovaai/puridiver.

研究动机与目标

• 为解决现实但研究不足的在线持续学习挑战，即在数据流污染且任务边界模糊的场景下，类别分布重叠、标签存在噪声。
• 克服现有持续学习方法的局限性，这些方法假设标签干净且类别互不重叠，而此类假设在真实世界部署中不切实际。
• 设计一种统一的记忆管理与学习策略，实现在标签噪声下情景记忆中多样性与纯度的同步提升。
• 开发一种自适应平衡系数，根据噪声比率和任务进展动态调整多样性与纯度之间的权衡。
• 在更具实际意义的连续学习设置下，于真实世界和合成的噪声数据集上验证该方法，涵盖类别重叠场景。

提出的方法

• 提出一种统一的记忆采样策略，通过定义一个结合标签纯度与与噪声样本分布相似性的评分函数，实现多样性与纯度的平衡。
• 引入一种鲁棒学习方案，采用半监督学习方法，在训练过程中将清洗后的标签和不可靠标签均视为未标记数据，以减少噪声样本带来的干扰。
• 采用自适应平衡系数 α，动态调整记忆采样中多样性与纯度之间的权衡，其中 α ∈ (0, 0.5)，在高噪声下优先考虑纯度。
• 使用一种记忆构建过程，基于低损失（纯度）和高多样性选择样本，同时通过一致性正则化在记忆使用过程中增强鲁棒性。
• 应用统一的训练目标，结合对干净标签的监督学习和对不可靠样本的伪标签化，提升泛化能力与抗噪声能力。
• 不仅将情景记忆用于回放，还用于基于一致性的正则化，从而在模型推理与训练过程中同时强化多样性与纯度。

实验结果

研究问题

• RQ1 在在线持续学习中，情景记忆内多样性与纯度之间的权衡如何影响标签噪声下的模型性能？
• RQ2 统一框架能否在噪声污染、类别重叠的任务边界下，有效平衡记忆采样与使用中的多样性与纯度？
• RQ3 自适应平衡系数 α 在真实世界持续学习设置下，如何在不同噪声比率下提升性能？
• RQ4 在持续学习中使用伪标签的半监督学习，在训练不可靠标签时能在多大程度上增强模型鲁棒性？
• RQ5 所提出方法是否在真实世界和合成噪声数据集上，于准确率与效率方面均优于现有方法的组合？

主要发现

• 在对称标签噪声（SYM-40%）下的 CIFAR-10 上，PuriDivER 实现了最先进准确率，显著优于先前方法，尤其在高噪声比率下表现突出。
• 在 CIFAR-100 上 SYM-60% 噪声下，PuriDivER 达到 57.0% 准确率，显著优于次佳方法（GBS 为 55.3%），展现出在严重标签污染下的鲁棒性。
• 自适应平衡系数策略在所有噪声水平下均持续提升性能，α 值随时间动态增加，后期更倾向于多样性。
• PuriDivER 在训练时间与准确率之间实现了良好权衡，训练成本低于 SPR，准确率优于 RSV 和 GBS，适用于在线部署。
• 消融实验确认，多样性与纯度均至关重要：当 α > 0.5 时，性能下降，因过度强调多样性而牺牲了标签纯度。
• 该方法在真实世界数据集（如 Food-101N 和 mini-WebVision）上表现出强泛化能力，证实其在合成基准之外的实际适用性。