[论文解读] When MAML Can Adapt Fast and How to Assist When It Cannot

Sébastien M. R. Arnold, Shariq Iqbal+1 more|arXiv (Cornell University)|Oct 30, 2019

Domain Adaptation and Few-Shot Learning参考文献 48被引用 5

一句话总结

本文研究了深度神经网络为何能在模型无关元学习（MAML）中实现快速适应，揭示了深度——尤其是高层层——作为底层层的隐式元优化器。本文提出了 meta-kfo，一种外部元优化器，可提升浅层模型的适应能力，并理论化认为深度网络通过转换底层梯度，作为‘嵌入式元优化器’发挥作用，即使任务可用浅层模型解决，也能显著提升元学习能力。

ABSTRACT

Model-Agnostic Meta-Learning (MAML) and its variants have achieved success in meta-learning tasks on many datasets and settings. On the other hand, we have just started to understand and analyze how they are able to adapt fast to new tasks. For example, one popular hypothesis is that the algorithms learn good representations for transfer, as in multi-task learning. In this work, we contribute by providing a series of empirical and theoretical studies, and discover several interesting yet previously unknown properties of the algorithm. We find MAML adapts better with a deep architecture even if the tasks need only a shallow one (and thus, no representation learning is needed). While echoing previous findings by others that the bottom layers in deep architectures enable representation learning, we also find that upper layers enable fast adaptation by being meta-learned to perform adaptive gradient update when generalizing to new tasks. Motivated by these findings, we study several meta-optimization approaches and propose a new one for learning to optimize adaptively. Those approaches attain stronger performance in meta-learning both shallower and deeper architectures than MAML.

研究动机与目标

• 理解为何深度架构即使在任务可用浅层模型解决时，仍能实现 MAML 中的快速适应。
• 研究模型深度与架构在元学习能力中的作用，特别是在任务无需深度的情况下。
• 开发并验证一种通过引入外部元优化器来提升浅层模型元学习性能的方法。
• 理论化认为，深度网络的高层层可作为底层层的内部元优化器，通过梯度转换实现有效适应。

提出的方法

• 在少样本学习基准（Omniglot、CIFAR-FS、mini-ImageNet）上，通过不同模型深度，实证评估 MAML 及其变体。
• 提出 meta-kfo，一种学习对小型浅层模型梯度进行转换的元优化器，以提升适应性能。
• 在浅层模型输出端添加线性层以增加深度，而不改变建模能力，测试其对元学习能力的影响。
• 理论化认为，深度网络的高层层通过转换底层梯度，隐式充当外部元优化器。
• 将 meta-kfo 与现有预条件化方法（如 Meta-SGD、T-Nets）及 ANIL 进行比较，分析其在不同模型规模下的性能表现。
• 通过数学上可处理的模型进行理论分析，推导关于梯度转换与元学习能力的假设。

实验结果

研究问题

• RQ1 为何深度模型即使在任务可用浅层或线性模型解决时，仍能在 MAML 中实现更快的适应？
• RQ2 高层层在深度网络中实现元学习时发挥着何种特定作用？
• RQ3 外部元优化器能否补偿模型深度不足，以恢复元学习能力？
• RQ4 在浅层模型中添加线性层如何影响其元学习能力？
• RQ5 meta-优化器（如 meta-kfo）的性能在多大程度上依赖于模型深度？

主要发现

• 即使任务可用浅层模型解决，MAML 在更深架构中仍能实现更好的适应，表明深度对元学习能力至关重要。
• 在浅层模型输出端添加线性层可增加深度而不改变建模能力，显著提升适应性能。
• meta-kfo 元优化器在较小模型上优于 MAML 及其他预条件化方法，尤其在 Omniglot 和 CIFAR-FS 上提升最大。
• 随着模型深度增加，meta-kfo 的性能提升逐渐减弱，支持了深度网络的高层层天然嵌入元优化机制的理论。
• 实证结果证实，深度网络的高层层可作为有效的梯度转换器，模仿对底层层的外部元优化器。
• 本研究提供了证据，表明深度网络的高层层隐式执行梯度转换，通过有效元优化底层层，实现快速适应。