[论文解读] Nonparametric Bayesian Structure Adaptation for Continual Learning.

Abhishek Kumar, Sunabha Chatterjee+1 more|arXiv (Cornell University)|Dec 8, 2019

Domain Adaptation and Few-Shot Learning被引用 4

一句话总结

该论文提出了一种非参数贝叶斯方法，通过学习特定于任务的稀疏权重子集，在持续学习过程中动态扩展神经网络架构。该方法通过重叠权重实现跨任务迁移，并在基准数据集上实现了最先进性能，同时自动适应网络结构，无需预先设定架构约束。

ABSTRACT

Continual Learning is a learning paradigm where machine learning models are trained with sequential or streaming tasks. Two notable directions among the recent advances in continual learning with neural networks are (i) variational Bayes based regularization by learning priors from previous tasks, and, (ii) learning the structure of deep networks to adapt to new tasks. So far, these two approaches have been orthogonal. We present a principled non-parametric Bayesian approach for learning the structure of feed-forward neural networks, addressing the shortcomings of both these approaches. In our model, the number of nodes in each hidden layer can automatically grow with the introduction of each new task, and inter-task transfer occurs through the overlapping of different sparse subsets of weights learned by different tasks. On benchmark datasets, our model performs comparably or better than the state-of-the-art approaches, while also being able to adaptively infer the evolving network structure in the continual learning setting.

研究动机与目标

• 解决现有持续学习方法的局限性，这些方法要么固定网络架构，要么使用不随任务复杂度自适应的参数化先验。
• 在引入新任务时自动扩展隐藏层神经元数量，避免手动设计网络架构。
• 通过在不同任务间学习重叠的稀疏权重子集，促进有效的跨任务知识迁移。
• 在持续学习设置中，构建一个联合学习模型结构与参数的合理贝叶斯框架。

提出的方法

• 在网络权重上使用非参数贝叶斯先验，使每一层的活跃神经元数量能根据新任务自适应增长。
• 采用稀疏贝叶斯学习框架，使每个任务学习一组独立的稀疏权重子集，重叠权重子集实现知识迁移。
• 利用变分推理近似网络权重和结构的后验分布，实现可扩展的训练。
• 引入分层先验结构，以促进稀疏性并加强任务间的共享表征。
• 根据任务复杂度和数据分布，动态推断每层的活跃神经元数量。
• 通过在新任务到达时增量式更新后验分布，实现持续学习，避免灾难性遗忘。

实验结果

研究问题

• RQ1 非参数贝叶斯模型能否在持续学习中自动适应不断变化的任务需求，动态调整网络架构？
• RQ2 重叠的稀疏权重子集在无显式架构约束的情况下，能否有效实现跨任务知识迁移？
• RQ3 与现有参数化和非参数化方法相比，所提出方法在准确率和结构自适应性方面是否表现更优？
• RQ4 随着模型复杂度随时间增长，该模型在多大程度上能防止灾难性遗忘？

主要发现

• 该模型在标准基准数据集上的性能与最先进持续学习方法相当或更优。
• 网络结构随新任务动态扩展，每层的活跃神经元数量根据需要自然增长。
• 通过重叠的稀疏权重子集有效实现了跨任务迁移，提升了任务间的泛化能力。
• 该方法通过保持并更新权重与结构的后验分布，成功防止了灾难性遗忘。
• 该方法在顺序学习场景中表现出良好的可扩展性和鲁棒性，无需重新设计网络架构。