[论文解读] On the Stability-Plasticity Dilemma of Class-Incremental Learning

Dongwan Kim, Bohyung Han|arXiv (Cornell University)|Apr 4, 2023

Domain Adaptation and Few-Shot Learning被引用 5

一句话总结

本文通过分析增量阶段中特征表示的变化，研究了类别增量学习（CIL）中的稳定性-可塑性权衡。研究发现，大多数CIL方法更注重稳定性而非可塑性，导致初始训练后特征表示的更新极少。作者提出了两种基于特征表示分析的简单算法，强调了改进持续表示学习的必要性，挑战了当前评估指标的有效性。

ABSTRACT

A primary goal of class-incremental learning is to strike a balance between stability and plasticity, where models should be both stable enough to retain knowledge learned from previously seen classes, and plastic enough to learn concepts from new classes. While previous works demonstrate strong performance on class-incremental benchmarks, it is not clear whether their success comes from the models being stable, plastic, or a mixture of both. This paper aims to shed light on how effectively recent class-incremental learning algorithms address the stability-plasticity trade-off. We establish analytical tools that measure the stability and plasticity of feature representations, and employ such tools to investigate models trained with various algorithms on large-scale class-incremental benchmarks. Surprisingly, we find that the majority of class-incremental learning algorithms heavily favor stability over plasticity, to the extent that the feature extractor of a model trained on the initial set of classes is no less effective than that of the final incremental model. Our observations not only inspire two simple algorithms that highlight the importance of feature representation analysis, but also suggest that class-incremental learning approaches, in general, should strive for better feature representation learning.

研究动机与目标

• 研究现代CIL算法在特征表示中平衡稳定性与可塑性的有效性。
• 确定CIL基准测试中的成功是源于稳定性、可塑性，还是两者的结合。
• 揭示当前评估指标的局限性，这些局限性可能误导CIL研究的进展。
• 通过特征表示动态的实证分析，激发更优的CIL方法。
• 倡导更强的持续特征表示学习，而非依赖固定或极少更新的特征。

提出的方法

• 作者设计了分析工具，利用中心核对齐（CKA）测量稳定性，并通过t-SNE可视化特征分布的变化。
• 通过在每个增量阶段重新训练分类器并测量在更新后的特征表示上的性能提升，评估可塑性。
• 他们在大规模基准如B500-5step上，分析了使用多种CIL算法训练的模型在增量阶段中特征提取器的性能表现。
• 作者引入了一种名为“Exploit”的方法，即从初始数据集固定特征提取器，仅训练分类器，结果在无特征自适应的情况下仍表现出高精度。
• 他们提出了一种改进版的动态可扩展表示（DER）方法，以提升增量设置下的特征表示学习能力。
• 他们通过在不同任务相似度和预训练设置下进行消融实验，验证了研究发现的稳健性。

实验结果

研究问题

• RQ1 现代CIL算法在增量学习阶段中，其特征表示的更新程度如何？
• RQ2 CIL方法的成功是源于高稳定性、高可塑性，还是二者的平衡？
• RQ3 当前评估指标（如平均增量准确率和最终准确率）在多大程度上反映了特征学习中的真实可塑性与稳定性？
• RQ4 一个具有固定特征提取器的模型是否能在实践中优于最先进（SOTA）的CIL方法？
• RQ5 哪些架构或训练策略能更好地在持续表示学习中平衡稳定性与可塑性？

主要发现

• 大多数CIL算法表现出极低的可塑性，其特征表示在首次数据集初始训练后几乎无更新。
• 仅在初始类别集上训练的模型（M₀）的特征提取器性能通常与最终的增量模型（M₅）相当或更优，表明特征适应能力差。
• “Exploit”方法（固定特征提取器，仅训练分类器）在平均增量准确率和最终ImageNet准确率上，仅有一项SOTA CIL方法表现更优，显示出卓越性能。
• 当前指标（如平均增量准确率和最终准确率）无法反映真实的可塑性，导致CIL研究中产生虚假的进展感。
• 研究揭示了系统性地过度强调稳定性而忽视可塑性，表明大多数CIL方法在时间推移中并未真正学习新的表示。
• 研究结果表明，当前的评估范式可能具有误导性，未来CIL研究应优先关注更强的、持续更新的特征表示。