[论文解读] Efficient and robust multi-task learning in the brain with modular latent primitives

Christian D. Márton, Léo Gagnon+2 more|arXiv (Cornell University)|May 28, 2021

Neural Networks and Applications被引用 5

一句话总结

本文提出模块化潜在基元（MoLaP），一种受生物学启发的循环神经网络架构，通过利用预训练的模块化潜在动力学，实现高效且鲁棒的多任务学习。通过在神经科学任务语料库的共享统计量上训练与任务无关的解耦潜在模块，MoLaP相较于标准持续学习方法，在学习速度、参数更新量以及对扰动的鲁棒性方面均表现更优。

ABSTRACT

Biological agents do not have infinite resources to learn new things. For this reason, a central aspect of human learning is the ability to recycle previously acquired knowledge in a way that allows for faster, less resource-intensive acquisition of new skills. In spite of that, how neural networks in the brain leverage existing knowledge to learn new computations is not well understood. In this work, we study this question in artificial recurrent neural networks (RNNs) trained on a corpus of commonly used neuroscience tasks. Combining brain-inspired inductive biases we call functional and structural, we propose a system that learns new tasks by building on top of pre-trained latent dynamics organised into separate recurrent modules. These modules, acting as prior knowledge acquired previously through evolution or development, are pre-trained on the statistics of the full corpus of tasks so as to be independent and maximally informative. The resulting model, we call a Modular Latent Primitives (MoLaP) network, allows for learning multiple tasks while keeping parameter counts, and updates, low. We also show that the skills acquired with our approach are more robust to a broad range of perturbations compared to those acquired with other multi-task learning strategies, and that generalisation to new tasks is facilitated. This work offers a new perspective on achieving efficient multi-task learning in the brain, illustrating the benefits of leveraging pre-trained latent dynamical primitives.

研究动机与目标

• 探究预先存在的神经归纳偏置（包括结构和功能层面）如何在人工循环网络中实现高效的多任务学习。
• 建模生物体如何复用进化或发育获得的知识以加速新任务的学习。
• 开发一种通过解耦、最大信息量的潜在模块对任务间表征进行分解的框架。
• 评估此类模块化、预训练的潜在动力学方法是否能提升多任务学习场景下的鲁棒性与泛化能力。

提出的方法

• 使用典型相关分析（CCA）在完整9项神经科学任务语料库上预训练独立的循环模块，以提取最大信息量、解耦的潜在动力学。
• 对所有任务的输入和输出应用主成分分析（PCA），以推导用于模块预训练的低维表示。
• 预训练完成后冻结所有循环权重，仅对9项任务中的每一项训练特定任务的输入和输出权重。
• 采用模块化架构，使每个模块实现可重用的功能基元，从而实现因子化、与任务无关的表征。
• 使用L2正则化和激活正则化进行训练，并在任务微调时采用固定的1e-2学习率。
• 通过模块化与全局扰动下的损伤实验、噪声注入和激活屏蔽来评估鲁棒性。

实验结果

研究问题

• RQ1 预训练的模块化潜在动力学是否能提升人工RNN中多任务学习的效率与鲁棒性？
• RQ2 与标准持续学习相比，使用解耦、与任务无关的潜在基元进行学习，在参数效率与泛化能力方面表现如何？
• RQ3 模块化潜在基元在多大程度上增强了神经网络对结构与功能扰动的抗性？
• RQ4 此类系统是否能模拟大脑在多样化任务间复用进化或习得的功能基元的能力？
• RQ5 使用共享的、预训练的潜在动力学是否能提升对未见任务的泛化能力？

主要发现

• MoLaP在全部9项任务中均取得高性能，大多数任务的测试准确率稳定高于90%，表明通过极少微调即可有效完成任务学习。
• 模型对权重损伤和噪声表现出显著提升的鲁棒性：在30%全局权重损伤下性能下降不足10%，优于基线模型。
• 模块化扰动导致的性能下降小于全局扰动，表明模块化结构可限制损伤传播，增强网络鲁棒性。
• 泛化能力得到促进，因为解耦的潜在动力学捕捉到了任务语料库中共享的统计结构。
• 预训练模块成功捕获了输入-输出变换的最大信息量、解耦表征，经完整任务语料库上的CCA与PCA验证。
• 特定任务的适应仅需对输入和输出权重进行微小更新，表明新任务学习具有极低的参数与计算成本。