[论文解读] Continual Learning Using Bayesian Neural Networks

Honglin Li, Payam Barnaghi+2 more|arXiv (Cornell University)|Oct 9, 2019

Domain Adaptation and Few-Shot Learning参考文献 37被引用 5

一句话总结

该论文提出持续贝叶斯学习网络（CBLN），一种使用混合高斯后验分布的贝叶斯神经网络方法，以缓解持续学习中的灾难性遗忘问题。通过在推理过程中基于认知不确定性动态选择特定任务的权重解，CBLN 避免了重新访问过去数据，并在 MNIST 和 UCR 时间序列基准上实现了最先进性能，相较于 IMM 提升 25–47%，相较于 SI 提升 80%（在分割 MNIST 上）。

ABSTRACT

Continual learning models allow to learn and adapt to new changes and tasks over time. However, in continual and sequential learning scenarios in which the models are trained using different data with various distributions, neural networks tend to forget the previously learned knowledge. This phenomenon is often referred to as catastrophic forgetting. The catastrophic forgetting is an inevitable problem in continual learning models for dynamic environments. To address this issue, we propose a method, called Continual Bayesian Learning Networks (CBLN), which enables the networks to allocate additional resources to adapt to new tasks without forgetting the previously learned tasks. Using a Bayesian Neural Network, CBLN maintains a mixture of Gaussian posterior distributions that are associated with different tasks. The proposed method tries to optimise the number of resources that are needed to learn each task and avoids an exponential increase in the number of resources that are involved in learning multiple tasks. The proposed method does not need to access the past training data and can choose suitable weights to classify the data points during the test time automatically based on an uncertainty criterion. We have evaluated our method on the MNIST and UCR time-series datasets. The evaluation results show that our method can address the catastrophic forgetting problem at a promising rate compared to the state-of-the-art models.

研究动机与目标

• 为解决持续学习中模型在学习新数据时遗忘先前任务的灾难性遗忘问题。
• 开发一种方法，在无需访问过去训练数据的前提下保持先前任务的知识。
• 通过可扩展的参数分配策略，实现多个任务的高效增量学习。
• 通过在推理时利用不确定性感知的权重选择，提升模型泛化能力与稳定性。
• 通过避免昂贵的 Fisher 信息或基于梯度的重要性度量，降低计算开销。

提出的方法

• CBLN 采用贝叶斯神经网络，其中网络权重被建模为多个高斯分布的混合，每个分布对应一个学习到的任务。
• 模型为不同任务维护独立的高斯分量，并在持续学习过程中将它们合并为单一混合分布。
• 在推理阶段，模型根据输入的认知不确定性，利用方差、熵或 MUMMI 作为不确定性度量，选择最合适的权重分量。
• 该方法通过调整混合分量的数量，实现资源的动态分配，避免参数数量呈指数增长。
• 采用变分推理近似权重的后验分布，实现在不重训过去数据的前提下进行不确定性估计。
• 合并过程由不确定性度量引导，使模型能够基于输入分布自适应地选择解。

实验结果

研究问题

• RQ1 在无法访问过去数据的情况下，具有混合高斯权重的贝叶斯神经网络能否有效防止持续学习中的灾难性遗忘？
• RQ2 基于不确定性的权重分量选择如何提升在顺序学习任务上的泛化能力？
• RQ3 随着任务数量的增加，模型在区分和选择正确解方面的能力受到何种影响？
• RQ4 与 IMM 和 SI 等最先进方法相比，CBLN 在准确率和可扩展性方面表现如何？
• RQ5 在低数据场景下（如任务类别较少时），CBLN 是否能保持性能？

主要发现

• 在分割 MNIST 基准上，CBLN 相较于增量矩匹配（IMM）提升 25%，相较于突触智能（SI）提升 80%。
• 在置换 MNIST 实验中，CBLN 达到与 SI 相同的准确率，并较 IMM 提升 16%。
• 在 UCR 时间序列数据集上，CBLN 相较于 IMM 提升 40%，相较于 SI 提升 47%。
• 当任务数量较少时，方差和 MUMMI 基于的不确定性度量中，模型的选择准确率保持在高达 1.0 的水平，但在高任务数、低类别场景下，由于罕见类别导致的过度自信，性能下降。
• 该方法在基于不确定性的任务选择中表现出鲁棒性，方差和 MUMMI 在任务复杂度增加时，优于熵，能更有效地区分任务。
• CBLN 不需要计算昂贵的 Fisher 信息或基于梯度的重要性估计，从而降低了训练开销。