[论文解读] Online Continual Learning on Class Incremental Blurry Task Configuration with Anytime Inference

Hyunseo Koh, Dahyun Kim+2 more|arXiv (Cornell University)|Oct 19, 2021

Multimodal Machine Learning Applications被引用 16

一句话总结

本文提出 i-Blurry，一种新颖的在线持续学习设置，具有类别增量性、无任务依赖性，并支持在任务边界模糊时进行任意时间推理。它引入了 CLIB 方法，采用基于样本重要性的记忆管理、仅使用记忆的训练策略以及自适应学习率调度，显著优于先前方法，在 CIFAR-10 上的 AUC 准确率达到 70.26，在 CIFAR-100 上达到 46.67。

ABSTRACT

Despite rapid advances in continual learning, a large body of research is devoted to improving performance in the existing setups. While a handful of work do propose new continual learning setups, they still lack practicality in certain aspects. For better practicality, we first propose a novel continual learning setup that is online, task-free, class-incremental, of blurry task boundaries and subject to inference queries at any moment. We additionally propose a new metric to better measure the performance of the continual learning methods subject to inference queries at any moment. To address the challenging setup and evaluation protocol, we propose an effective method that employs a new memory management scheme and novel learning techniques. Our empirical validation demonstrates that the proposed method outperforms prior arts by large margins. Code and data splits are available at https://github.com/naver-ai/i-Blurry.

研究动机与目标

• 为解决现有持续学习设置的实际局限性，这些设置假设类别划分互不重叠或任务边界固定，且缺乏对任意时间推理的支持。
• 提出一种新的持续学习设置——i-Blurry，结合类别增量学习与模糊的任务边界，并支持在训练过程中任意时间进行推理。
• 引入一种新的评估指标 AUC 准确率（A_AUC），以更准确地衡量在任意时间推理条件下的模型性能。
• 开发一种新的持续学习方法 CLIB，通过创新的记忆管理、训练策略与学习率调度，有效应对 i-Blurry 设置。

提出的方法

• 提出一种名为 i-Blurry 的新型持续学习设置，其为在线、无任务依赖、类别增量性，并支持在任务间类别分布重叠（模糊）的条件下进行任意时间推理。
• 引入基于样本的个体重要性评分，以指导记忆管理，实现根据样本对训练的贡献度选择性地丢弃低效样本。
• 采用仅使用记忆的训练策略，即仅使用记忆缓冲区中的样本进行训练，避免当前在线数据流的直接影响。
• 设计一种自适应学习率调度机制，根据损失轨迹动态调整学习率，实现更优的收敛效果。
• 以经验回放结合水库采样作为基线，但通过所提组件实现改进。
• 采用一种新的评估指标 A_AUC，通过计算模型准确率随时间变化的曲线下面积，捕捉连续训练过程中的性能表现。

实验结果

研究问题

• RQ1 如何通过引入模糊的任务边界与无任务ID的类别增量学习，使持续学习设置更贴近现实？
• RQ2 现有评估指标（如 A_avg）在捕捉连续训练与推理过程中的模型性能方面存在哪些局限性？
• RQ3 基于样本重要性的记忆管理方案是否能提升在线、类别增量设置下的持续学习性能？
• RQ4 与联合使用在线数据流的训练相比，仅从记忆缓冲区训练是否能提升模型稳定性与性能？
• RQ5 基于损失轨迹的自适应学习率调度在任意时间推理条件下，对提升持续学习性能的有效性如何？

主要发现

• 所提出的 i-Blurry 设置通过结合类别增量学习与模糊任务边界，并支持任意时间推理，更真实地反映了现实世界中的持续学习场景。
• 新指标 A_AUC 有效捕捉了模型随时间的性能表现，并揭示了 A_avg 无法识别的性能差距，尤其在长时间训练中表现明显。
• CLIB 在 CIFAR-10 和 CIFAR-100 上均显著优于现有持续学习方法，在 CIFAR-10 上达到 A_AUC 70.26 ± 1.28，在 CIFAR-100 上达到 46.67 ± 0.79。
• 消融实验表明，基于样本重要性的记忆管理带来的性能增益最大，若移除该机制，CIFAR-100 上的 A_AUC 下降达 16.51 分。
• 与经验回放相比，仅使用记忆的训练策略在 CIFAR-10 上提升 A_AUC 2.21 分，在 CIFAR-100 上提升 2.04 分。
• 自适应学习率调度在更具挑战性的 CIFAR-100 上带来的增益更大（A_AUC 提升 1.66 分），表明其在复杂场景中的重要性。