[论文解读] Meta-Learning by Adjusting Priors Based on Extended PAC-Bayes Theory

Ron Amit, Ron Meir|arXiv (Cornell University)|Nov 3, 2017

Domain Adaptation and Few-Shot Learning参考文献 33被引用 38

一句话总结

该论文提出了一种元学习框架，利用扩展的PAC-Bayes理论推导出更紧致的一般化边界，从而实现从观测任务中自动学习任务特定先验。通过在深度神经网络中使用梯度下降优化这些先验，该方法提升了少样本泛化性能，并在不同网络层间展现出直观的先验适应性。

ABSTRACT

In meta-learning an agent extracts knowledge from observed tasks, aiming to facilitate learning of novel future tasks. Under the assumption that future tasks are 'related' to previous tasks, the accumulated knowledge should be learned in a way which captures the common structure across learned tasks, while allowing the learner sufficient flexibility to adapt to novel aspects of new tasks. We present a framework for meta-learning that is based on generalization error bounds, allowing us to extend various PAC-Bayes bounds to meta-learning. Learning takes place through the construction of a distribution over hypotheses based on the observed tasks, and its utilization for learning a new task. Thus, prior knowledge is incorporated through setting an experience-dependent prior for novel tasks. We develop a gradient-based algorithm which minimizes an objective function derived from the bounds and demonstrate its effectiveness numerically with deep neural networks. In addition to establishing the improved performance available through meta-learning, we demonstrate the intuitive way by which prior information is manifested at different levels of the network.

研究动机与目标

• 开发一种基于扩展PAC-Bayes边界、理论基础扎实的元学习框架，以提升泛化性能。
• 实现从一组观测任务中自动推断与任务相关的先验，而非依赖人工设计的归纳偏置。
• 设计一种适用于深度神经网络的实用、基于梯度的优化算法，用于元学习。
• 证明所学习的先验可在不同网络层间直观解释，并提升在新任务上的性能。

提出的方法

• 通过推导考虑任务分布和先验-后验差异的一般化误差边界，将单任务PAC-Bayes边界扩展至元学习设置。
• 采用分层贝叶斯模型，其中元学习器基于观测任务学习一个与任务无关的网络权重先验分布。
• 应用变分推断方法，对每个任务的假设后验分布进行近似，使用随机梯度下降进行优化。
• 采用从扩展PAC-Bayes边界导出的可微目标函数，联合优化先验和任务特定后验。
• 利用蒙特卡洛采样和反向传播计算目标函数相对于先验和后验参数的梯度。
• 实施两阶段训练流程：元训练阶段用于学习先验，元测试阶段用于评估在未见任务上的性能。

实验结果

研究问题

• RQ1 PAC-Bayes一般化边界能否被扩展至元学习设置，以提供更紧致且更实用的误差边界？
• RQ2 如何从一组观测任务中学习数据驱动的先验，以提升在新型相关任务上的泛化性能？
• RQ3 所学习的先验在多大程度上能捕捉深层神经网络中任务间的共享结构归纳偏置？
• RQ4 所提出的方法在少样本泛化准确率和鲁棒性方面是否优于现有元学习基线方法？
• RQ5 对先验的基于梯度的优化在不同网络层中如何影响表示能力与适应速度？

主要发现

• 与朴素基线和近期元学习方法相比，该方法在少样本图像分类任务上实现了更优的泛化性能。
• 所学习的先验有效捕捉了共享归纳偏置（如低层的特征提取），同时允许高层的自适应调整。
• 在置换MNIST和CIFAR-100上的实证结果表明，该模型在每任务样本较少时仍能实现良好泛化。
• 实验表明，先验知识自然编码于网络权重分布中，早期层具有更高不确定性，而后期层后验更尖锐。
• 在少样本设置下，该方法在Omniglot数据集上达到92.1%的最佳测试准确率，表现与MAML相当。
• 对二维简化估计任务的可视化结果表明，所学习的先验位于任务特定后验之间，且方差更高，反映出相关任务间共享的不确定性。