[论文解读] Generalized Variational Continual Learning

Noel Loo, Siddharth Swaroop+1 more|arXiv (Cornell University)|Nov 24, 2020

Domain Adaptation and Few-Shot Learning参考文献 31被引用 15

一句话总结

本文提出广义变分持续学习（GVCL），通过似然温度调节，在变分持续学习（VCL）与在线弹性权重整合（Online EWC）之间建立统一框架，显著提升性能。此外，引入任务特定的FiLM层以缓解变分推断中的过度剪枝问题，实现最先进的准确率与更优的校准性能，尤其在低数据场景下表现突出。

ABSTRACT

Continual learning deals with training models on new tasks and datasets in an online fashion. One strand of research has used probabilistic regularization for continual learning, with two of the main approaches in this vein being Online Elastic Weight Consolidation (Online EWC) and Variational Continual Learning (VCL). VCL employs variational inference, which in other settings has been improved empirically by applying likelihood-tempering. We show that applying this modification to VCL recovers Online EWC as a limiting case, allowing for interpolation between the two approaches. We term the general algorithm Generalized VCL (GVCL). In order to mitigate the observed overpruning effect of VI, we take inspiration from a common multi-task architecture, neural networks with task-specific FiLM layers, and find that this addition leads to significant performance gains, specifically for variational methods. In the small-data regime, GVCL strongly outperforms existing baselines. In larger datasets, GVCL with FiLM layers outperforms or is competitive with existing baselines in terms of accuracy, whilst also providing significantly better calibration.

研究动机与目标

• 在单一似然温度调节的变分推断框架下统一VCL与Online EWC。
• 解决变分推断在持续学习中固有的过度剪枝问题。
• 提升持续学习的泛化能力与校准性能，尤其在低数据场景下。
• 开发一种可扩展的架构解决方案，以增强变分持续学习方法的性能。
• 在多样化持续学习基准上实证验证该框架，涵盖小样本与混合视觉任务。

提出的方法

• GVCL通过引入温度参数β，对VCL目标进行似然温度调节，以降低ELBO中KL正则化项的权重。
• 当β → 0时，该方法退化为Online EWC，实现VCL与Online EWC之间的插值。
• 提出一种新型架构组件——任务特定的FiLM层，以实现任务特定的特征调制，减轻变分推断中的过度剪枝。
• FiLM层应用于卷积层之后，并与主网络端到端联合训练，以自适应地缩放和偏移各任务的特征。
• 采用标准持续学习基准对框架进行评估，包括CIFAR-10、CIFAR-100、MNIST、SVHN、Fashion-MNIST、TrafficSigns、Facescrub与NotMNIST。
• 在小样本与大规模数据场景下均进行测试，并对FiLM与β值进行消融研究。

实验结果

研究问题

• RQ1 似然温度调节能否将VCL与Online EWC统一为一个灵活的持续学习框架？
• RQ2 所提出的GVCL框架是否在性能上优于现有基于正则化的持续学习方法？
• RQ3 任务特定的FiLM层能否有效缓解变分持续学习中观察到的过度剪枝病理？
• RQ4 与HAT和PathNet等强基线相比，GVCL结合FiLM层在低数据场景下的表现如何？
• RQ5 FiLM层的引入在多大程度上提升了持续学习中的模型校准与迁移学习性能？

主要发现

• 在8个混合视觉任务上，GVCL-F的平均准确率比次优基线高出0.32%，在部分情况下显著优于HAT与PathNet。
• 在F-MNIST与Facescrub任务上，GVCL-F分别实现5.05%与3.88%的前向迁移性能提升，超过独立训练。
• GVCL结合FiLM层显著降低期望校准误差（ECE），表明其不确定性估计优于基线方法。
• 添加FiLM层后，变分方法的性能增益尤为显著，证实其在缓解过度剪枝方面的有效性。
• 在小样本场景下，GVCL结合FiLM层显著优于现有基线，尤其在前向与后向迁移指标上表现突出。
• 消融研究确认，GVCL的最优β值位于0.5至1.0之间，β=1.0在准确率与校准之间实现最佳平衡。