[论文解读] Fast Context Adaptation via Meta-Learning

Luisa Zintgraf, Kyriacos Shiarlis+3 more|arXiv (Cornell University)|Oct 8, 2018

Machine Learning and Data Classification被引用 176

一句话总结

CAVIA 通过将模型参数分成任务特定的上下文参数和共享的元学习参数，在测试时仅更新上下文，以实现快速、鲁棒的自适应，并在回归、分类和强化学习中具有可解释的任务嵌入。

ABSTRACT

We propose CAVIA for meta-learning, a simple extension to MAML that is less prone to meta-overfitting, easier to parallelise, and more interpretable. CAVIA partitions the model parameters into two parts: context parameters that serve as additional input to the model and are adapted on individual tasks, and shared parameters that are meta-trained and shared across tasks. At test time, only the context parameters are updated, leading to a low-dimensional task representation. We show empirically that CAVIA outperforms MAML for regression, classification, and reinforcement learning. Our experiments also highlight weaknesses in current benchmarks, in that the amount of adaptation needed in some cases is small.

研究动机与目标

• 在元学习中推进快速适应，减少元过拟合并提高并行性。
• 引入可针对每个任务自适应的上下文参数，同时在任务之间共享其他参数。
• 证明上下文参数可产生一个低维、可解释的任务嵌入。
• 展示 CAVIA 在回归、分类和强化学习任务上优于 MAML。

提出的方法

• 将模型参数分成上下文参数 phi 和共享参数 theta。
• 内部循环更新仅调整每个任务的 phi，使用对任务损失的梯度步。
• 外部循环通过对内部循环的 phi 更新进行反向传播来调整 theta。
• 上下文参数初始化为零，并将其条件化进网络（例如，通过输入增广或 FiLM）。
• 元学习优化 theta，使其在内部循环自适应后在各任务中表现良好。
• 在测试时，仅更新 phi 以适应新任务，而 theta 保持固定。

实验结果

研究问题

• RQ1 仅更新每个任务的一个小的上下文向量能否达到或超过跨领域的 MAML 性能？
• RQ2 上下文参数是否学习到有意义、捕捉跨任务潜在结构的任务特定嵌入？
• RQ3 CAVIA 对内部循环学习率的鲁棒性如何，是否可以在不发生过拟合的情况下扩展到更大的网络？
• RQ4 在实际应用中，CAVIA 的并行化和内存使用与 MAML 相比如何？

主要发现

• CAVIA 在回归、分类和强化学习基准测试中优于 MAML。
• 仅对少量上下文参数（2–50）进行自适应就足够；可以使用更大的网络而不发生内部循环过拟合。
• 上下文参数学习到对任务有意义的嵌入，使任务之间可以插值。
• CAVIA 对内部循环学习率的选择鲁棒，在增加网络规模时比 MAML 更具可扩展性。