[论文解读] Continual Learning with Self-Organizing Maps

Pouya Bashivan, Martin Schrimpf+4 more|arXiv (Cornell University)|Apr 19, 2019

Domain Adaptation and Few-Shot Learning参考文献 10被引用 4

一句话总结

该论文提出SOMLP，一种无记忆持续学习方法，利用自组织映射（SOM）动态将输入路由至特定任务的网络区域，无需显式任务边界或记忆缓冲区。通过无监督聚类将输入划分为任务上下文并相应地屏蔽网络激活，SOMLP在MNIST排列和旋转任务上的性能与SOTA方法（如GEM和EWC）相当，尤其在低内存环境下表现优异。

ABSTRACT

Despite remarkable successes achieved by modern neural networks in a wide range of applications, these networks perform best in domain-specific stationary environments where they are trained only once on large-scale controlled data repositories. When exposed to non-stationary learning environments, current neural networks tend to forget what they had previously learned, a phenomena known as catastrophic forgetting. Most previous approaches to this problem rely on memory replay buffers which store samples from previously learned tasks, and use them to regularize the learning on new ones. This approach suffers from the important disadvantage of not scaling well to real-life problems in which the memory requirements become enormous. We propose a memoryless method that combines standard supervised neural networks with self-organizing maps to solve the continual learning problem. The role of the self-organizing map is to adaptively cluster the inputs into appropriate task contexts - without explicit labels - and allocate network resources accordingly. Thus, it selectively routes the inputs in accord with previous experience, ensuring that past learning is maintained and does not interfere with current learning. Out method is intuitive, memoryless, and performs on par with current state-of-the-art approaches on standard benchmarks.

研究动机与目标

• 在不依赖记忆缓冲区或显式任务边界的情况下，解决持续学习中的灾难性遗忘问题。
• 开发一种可扩展、内存高效的替代方案，以应对现有基于经验回放和正则化的方法。
• 使神经网络能够自适应地为新任务分配资源，同时保留先前任务的知识。
• 利用SOM的无监督表征学习，从未标注的输入数据分布中推断任务结构。
• 证明自组织映射可作为持续学习中动态资源分配的有效、无标签机制。

提出的方法

• 在全连接前馈网络并行集成一个自组织映射（SOM）层，以无监督方式学习输入分布结构。
• 使用竞争学习训练SOM：对于每个输入批次，识别最佳匹配单元（BMU），并使用衰减的学习率α和邻域半径σ更新其及其拓扑邻近单元。
• 通过输入与SOM权重之间的L2距离计算特定任务的输出掩码Γ，该距离经由超参数ε缩放，用于门控全连接层的激活。
• 利用掩码Γ仅选择与当前输入任务上下文相关的网络节点激活，从而防止对先前学习任务的干扰。
• 在所有任务的无标签数据上预训练SOM权重（SOMLP_m），或在完整的MNIST训练集上预训练（SOMLP_s），以改善初始化和泛化能力。
• 使用指数衰减率τ随时间衰减学习率α和邻域半径σ，以稳定训练并避免过拟合。

实验结果

研究问题

• RQ1 自组织映射能否在无显式任务标签的情况下，隐式推断持续学习中的任务边界？
• RQ2 在低内存环境下，基于SOM无监督聚类的无记忆方法是否优于基于记忆的EWC和GEM方法？
• RQ3 当不使用经验回放或费舍尔信息时，SOMLP在连续任务上的性能保持如何？
• RQ4 SOMLP学习到的掩码在多大程度上反映了任务之间的潜在相似性结构（如旋转与排列）？
• RQ5 通过SOM的无监督特征学习，能否在持续学习中实现神经网络的有效动态资源分配？

主要发现

• SOMLP_m（在所有任务的10%数据上预训练）在MNIST-排列任务上达到85.4% ± 1.8的准确率，在MNIST-旋转任务上达到79.1% ± 0.8，优于EWC，并在某些设置下与GEM相当。
• 在低内存环境（如8个内存槽）下，SOMLP_m优于所有基线方法，包括EWC和GEM，展现出更优的可扩展性。
• SOMLP_s（在完整MNIST上预训练）表现不如SOMLP_m，但仍优于EWC在MNIST-旋转任务上的表现（59.1% vs. 49.8%），并在MNIST-排列任务上与EWC持平。
• GEM在内存减少时性能显著下降，而EWC在不同数据集上的表现不一致，表明其对记忆缓冲区大小敏感。
• 在MNIST-旋转任务中，学习到的SOM掩码在相似任务（如小角度旋转差异）间共享节点，而在不相似任务间使用独立节点，表明实现了有效的任务聚类。
• GEM和SOMLP_m在连续任务上的平均性能保持稳定，而EWC和SOMLP_s表现出性能下降，表明在低容量或不稳定条件下存在遗忘现象。