[论文解读] Neuromimetic metaplasticity for adaptive continual learning

Suhee Cho, Hyeonsu Lee+2 more|arXiv (Cornell University)|Jul 9, 2024

Neuroblastoma Research and TreatmentsMedicine被引用 3

一句话总结

该论文提出了一种神经形态元塑性框架，通过生物启发机制动态调节突触灵活性，使深度神经网络能够在持续学习过程中避免灾难性遗忘。该模型在流式数据上实现了对旧知识和新知识的稳定保留，并通过赫布重复效应强化显著记忆，从而增强了对数据中毒攻击的鲁棒性。

ABSTRACT

Conventional intelligent systems based on deep neural network (DNN) models encounter challenges in achieving human-like continual learning due to catastrophic forgetting. Here, we propose a metaplasticity model inspired by human working memory, enabling DNNs to perform catastrophic forgetting-free continual learning without any pre- or post-processing. A key aspect of our approach involves implementing distinct types of synapses from stable to flexible, and randomly intermixing them to train synaptic connections with different degrees of flexibility. This strategy allowed the network to successfully learn a continuous stream of information, even under unexpected changes in input length. The model achieved a balanced tradeoff between memory capacity and performance without requiring additional training or structural modifications, dynamically allocating memory resources to retain both old and new information. Furthermore, the model demonstrated robustness against data poisoning attacks by selectively filtering out erroneous memories, leveraging the Hebb repetition effect to reinforce the retention of significant data.

研究动机与目标

• 通过在人工神经网络中模拟人类工作记忆机制，解决持续学习中的灾难性遗忘问题。
• 使深度学习模型在无需架构或训练修改的情况下，同时保留旧知识和新知识。
• 通过赫布重复机制选择性强化重要记忆，提升对数据中毒攻击的鲁棒性。
• 根据输入流特征（包括输入长度的意外变化）动态分配内存资源。
• 在持续学习场景中实现内存容量与模型性能之间的平衡权衡。

提出的方法

• 该模型采用异质突触架构，包含从稳定到灵活的多种突触类型，实现连接间可变的学习速率。
• 在训练过程中随机混合突触灵活性，使网络能够自适应地将内存资源分配给新旧信息。
• 该框架利用赫布重复效应强化重要记忆，增强对数据中毒攻击的抗性。
• 无需预处理或后处理，也无需结构修改，持续学习过程中始终保持原始网络架构。
• 该方法能根据输入长度的变化动态调整内存分配，确保在意外数据变化下保持稳定。
• 元塑性通过一种生物启发机制实现，根据活动历史调节突触效能。

实验结果

研究问题

• RQ1 基于生物启发的元塑性机制是否能在DNN中实现无灾难性遗忘的持续学习？
• RQ2 可变突触灵活性在流式学习场景中对记忆保留和性能有何影响？
• RQ3 该模型在输入长度意外变化下能多大程度维持性能？
• RQ4 赫布重复效应是否能增强持续学习中对数据中毒的鲁棒性？
• RQ5 在所提出的框架中，内存容量与模型准确率之间的权衡关系如何？

主要发现

• 该模型在输入长度意外变化的情况下，仍能无灾难性遗忘地学习连续数据流。
• 该框架在无需额外训练或架构修改的情况下，实现了内存容量与性能之间的平衡权衡。
• 通过赫布重复机制选择性过滤错误记忆，该模型表现出对数据中毒的鲁棒性。
• 突触灵活性的动态分配使模型在多种学习任务中有效保留新旧信息。
• 该方法在多个持续学习基准测试中保持高性能，其稳定性和记忆保留能力优于标准DNN。
• 该模型对输入变化和对抗性数据的鲁棒性归因于其神经形态元塑性机制。