[论文解读] On the role of neurogenesis in overcoming catastrophic forgetting

German I. Parisi, Xu Ji+1 more|arXiv (Cornell University)|Nov 6, 2018

Neurogenesis and neuroplasticity mechanisms参考文献 12被引用 10

一句话总结

该论文表明，在自组织循环网络中引入神经发生——即动态添加神经元——能显著减少增量式无监督学习中的灾难性遗忘。通过仅在需要时增加神经元，该模型在相同内存容量下优于静态网络，在学习10类物体后于CORe50数据集上达到83.24%的准确率，而静态网络仅为32.41%。

ABSTRACT

Lifelong learning capabilities are crucial for artificial autonomous agents operating on real-world data, which is typically non-stationary and temporally correlated. In this work, we demonstrate that dynamically grown networks outperform static networks in incremental learning scenarios, even when bounded by the same amount of memory in both cases. Learning is unsupervised in our models, a condition that additionally makes training more challenging whilst increasing the realism of the study, since humans are able to learn without dense manual annotation. Our results on artificial neural networks reinforce that structural plasticity constitutes effective prevention against catastrophic forgetting in non-stationary environments, as well as empirically supporting the importance of neurogenesis in the mammalian brain.

研究动机与目标

• 探究神经发生是否在持续学习中功能性地缓解灾难性遗忘。
• 在相同内存约束下，比较动态生长网络与静态网络，以隔离结构可塑性的影响。
• 在无需依赖人工标注的真实世界非平稳数据上，评估在无监督增量学习中的性能。
• 评估神经发生如何在保留旧表征的同时，促进新知识的快速保留。
• 探究动态架构增长是否在容量提升之外带来优势，特别是在稳定性-可塑性权衡方面。

提出的方法

• 采用一种可动态添加神经元的自组织循环网络（GWR），当输入激活低于阈值时触发神经元增长。
• 使用竞争性赫布学习在共激活神经元之间建立突触连接，通过上下文描述符建模时间上下文。
• 使用基于VGG的特征提取器将视频帧输入降维为256维向量，供自组织网络使用。
• 在CORe50数据集上进行实验，共10个会话，8个用于训练，3个用于测试，每类使用5个实例的迷你批次。
• 在相同内存约束下，将静态网络（固定大小）与生长网络（最大神经元数为2500个）进行比较。
• 使用记忆回放来模拟平稳数据分布，测试其对静态与动态模型的影响。

实验结果

研究问题

• RQ1 与内存容量相同的静态网络相比，动态网络中的神经发生是否能减少灾难性遗忘？
• RQ2 在无外部监督或数据回放的情况下，动态神经元添加能否提升无监督增量学习的性能？
• RQ3 神经元生长能力是否能实现新类别的快速保留，同时克服稳定性-可塑性困境？
• RQ4 在增量学习中，记忆回放对静态与生长架构的性能影响如何？
• RQ5 通过神经发生实现的结构可塑性在多大程度上促进了表征稳定性和记忆效率？

主要发现

• 在学习10类物体后，生长网络在CORe50上的平均准确率达到83.24%，显著优于相同内存约束下的静态网络（32.41%）。
• 约50%的性能差距表明，神经发生不仅通过容量提升发挥作用，更在功能性上缓解了灾难性遗忘。
• 动态模型仅需16个训练周期即可达到竞争性性能，而静态模型需33个周期，表明按需插入神经元可实现更快收敛。
• 记忆回放未能显著提升静态网络的性能，因其内部表征重建效果差，凸显了结构可塑性的关键作用。
• 生长网络比静态模型更快保留新学习的类别，打破了稳定性-可塑性困境，实现了快速可塑性而不破坏已有知识。
• 结果实证支持神经发生作为哺乳动物大脑中高效终身学习机制的作用，尤其在非平稳环境中。