[论文解读] Continual Competitive Memory: A Neural System for Online Task-Free Lifelong Learning

Alexander G. Ororbia|arXiv (Cornell University)|Jun 24, 2021

Domain Adaptation and Few-Shot Learning被引用 4

一句话总结

本文提出持续竞争记忆（CCM），一种新颖的无监督神经网络系统，用于在线、无任务的终身学习，通过竞争性赫布学习缓解灾难性遗忘。CCM在无需任务描述符或数据回放的情况下，在Split MNIST和Split NotMNIST上表现优于传统竞争学习模型，并达到与最先进终身学习方法相当的性能。

ABSTRACT

In this article, we propose a novel form of unsupervised learning, continual competitive memory (CCM), as well as a computational framework to unify related neural models that operate under the principles of competition. The resulting neural system is shown to offer an effective approach for combating catastrophic forgetting in online continual classification problems. We demonstrate that the proposed CCM system not only outperforms other competitive learning neural models but also yields performance that is competitive with several modern, state-of-the-art lifelong learning approaches on benchmarks such as Split MNIST and Split NotMNIST. CCM yields a promising path forward for acquiring representations that are robust to interference from data streams, especially when the task is unknown to the model and must be inferred without external guidance.

研究动机与目标

• 解决在线持续学习中灾难性遗忘的问题，且不依赖任务描述符或外部监督。
• 将竞争性神经模型统一于广义神经竞争学习（NCL）框架下，以处理流式数据。
• 开发一种可扩展、生物上合理的系统，能够从数据流中学习，同时在不同任务间保留知识。
• 在无任务的持续学习设置中，评估CCM对现有基线方法的鲁棒性和性能。
• 实现CCM与下游预测器的集成，以在持续学习中提升泛化能力。

提出的方法

• NCL框架通过形式化竞争激活、权重更新和记忆单元动态等关键组件，统一了竞争学习模型。
• CCM采用一种竞争机制，其中最活跃的神经元（胜者）根据输入通过类似赫布规则的方式更新其权重，促进记忆巩固。
• 动态阈值机制决定新输入是否触发新记忆单元的创建，或被存储于现有单元中。
• 系统以在线流式方式运行，逐个处理样本，不存储原始输入，也不依赖回放缓冲区。
• 该框架支持记忆单元的增量增长，并整合了受自适应共振理论（ART）启发的稳定性机制。
• CCM与前馈预测器集成，用于在Split MNIST和Split NotMNIST等分类基准上评估性能。

实验结果

研究问题

• RQ1 基于竞争学习的系统是否能在无任务描述符或外部监督的情况下实现稳健的终身学习？
• RQ2 在持续学习条件下，CCM与经典竞争学习模型相比，在知识保留和泛化能力方面表现如何？
• RQ3 竞争学习在流式数据场景中在多大程度上能提供对灾难性遗忘的内在抵抗？
• RQ4 CCM是否能在标准基准上达到或超越现代基于反向传播的终身学习方法的性能？
• RQ5 NCL框架如何实现对多样化竞争学习模型的泛化与统一，以支持持续学习？

主要发现

• CCM在Split MNIST和Split NotMNIST上的准确率和知识保留能力方面，优于经典竞争学习模型（如ART-C 2A和SOINN）。
• 尽管CCM为无监督且无任务的，其性能仍与最先进终身学习方法（包括使用正则化或经验回放的方法）相当。
• 该系统表现出对灾难性遗忘的强抵抗力，在无任务边界信号的情况下，能保持高准确率处理顺序呈现的任务。
• NCL框架成功地将多种竞争模型（包括ART、SOM和神经气体）统一于同一计算抽象之下。
• CCM能有效与前馈预测器集成，在持续分类任务中展现出优异的泛化能力。
• 该模型表现出稳定的记忆增长，单位数量无显式上限，但动态阈值和单元合并仍为待解决问题。