[论文解读] Encoders and Ensembles for Task-Free Continual Learning

Murray Shanahan, Christos Kaplanis+1 more|arXiv (Cornell University)|May 27, 2021

Domain Adaptation and Few-Shot Learning参考文献 49被引用 10

一句话总结

本文提出了一种用于无任务持续学习的编码器-集成架构，其中冻结的自监督预训练图像编码器提取特征，而一组简单、由关键激活的单层分类器则动态选择并聚合预测结果。该方法通过架构专业化和集体推理有效缓解灾难性遗忘，在CIFAR-10和CIFAR-100上显著优于先前最先进方法，适用于具有挑战性的在线、增量和概念性数据分布变化的设置。

ABSTRACT

We present an architecture that is effective for continual learning in an especially demanding setting, where task boundaries do not exist or are unknown, and where classes have to be learned online (with each example presented only once). To obtain good performance under these constraints, while mitigating catastrophic forgetting, we exploit recent advances in contrastive, self-supervised learning, allowing us to use a pre-trained, general purpose image encoder whose weights can be frozen, which precludes forgetting. The pre-trained encoder also greatly simplifies the downstream task of classification, which we solve with an ensemble of very simple classifiers. Collectively, the ensemble exhibits much better performance than any individual classifier, an effect which is amplified through specialisation and competitive selection. We assess the performance of the encoders-and-ensembles architecture on standard continual learning benchmarks, where it outperforms prior state-of-the-art by a large margin on the hardest problems, as well as in less familiar settings where the data distribution changes gradually or the classes are presented one at a time.

研究动机与目标

• 为解决在最真实且具有挑战性的设置下持续学习中的灾难性遗忘问题——即任务边界不存在或未知，且类别以在线方式学习。
• 开发一种可扩展、高效的架构，无需任务边界或显式任务推断。
• 利用自监督预训练和集成学习，在保持增量类别学习过程中高准确率的同时减少遗忘。
• 在三种不同的持续学习范式下评估标准基准上的性能：按任务划分、增量类别学习和渐进式分布偏移。

提出的方法

• 使用预训练且冻结的图像编码器（例如来自BYOL或ReLIC）提取固定、通用的特征，从而在特征提取阶段消除遗忘。
• 采用一组单层分类器，每个分类器与编码器潜在空间中的一个随机关键向量相关联，通过余弦相似度上的k近邻实现动态分类器选择。
• 通过加权平均聚合分类器输出，其中权重由输入编码与每个分类器关键向量之间的余弦相似度决定。
• 采用特定的激活函数（tanh）和损失函数（带类别特定缩放的交叉熵），将权重更新限制在相关分类器头，从而减少干扰。
• 基于关键匹配进行分类器之间的竞争性选择，促进专业化和集体鲁棒性。
• 无需任务边界或记忆回放；相反，其依赖于预训练编码器的结构不变性以及模块化的分类器集成。

实验结果

研究问题

• RQ1 一个结合冻结预训练编码器和分类器集成的简单架构，是否能在无任务持续学习中超越现有方法？
• RQ2 当任务边界不存在且类别逐个呈现时，该架构的性能如何？
• RQ3 分类器专业化与集成聚合在增量学习中在多大程度上缓解了灾难性遗忘？
• RQ4 该方法是否能泛化到随时间逐渐变化的数据分布，而非离散的任务？

主要发现

• 所提出的架构在无任务持续学习基准下于CIFAR-10和CIFAR-100上实现了最先进性能，显著优于先前方法。
• 在完全增量设置下（每次一个类别），模型在所有类别上均保持高准确率，表现出对灾难性遗忘的强大抵抗力。
• 在渐进式分布偏移（高斯调度）设置下表现良好，此时类别边界模糊且不存在离散任务。
• 冻结编码器与简单分类器集成的组合比任一单一组件更有效，其协同作用显著提升了性能增益。
• 使用tanh激活函数和类别特定损失函数显著减少了遗忘，通过将权重更新限制在相关分类器头实现。
• 该架构在单次训练周期的在线学习范式下也表现优异，证实其适用于实时流数据。