[论文解读] Task-Robust Model-Agnostic Meta-Learning

Liam Collins, Aryan Mokhtari+1 more|arXiv (Cornell University)|Feb 12, 2020

Domain Adaptation and Few-Shot Learning被引用 10

一句话总结

本文提出了一种任务鲁棒的元学习模型无关元学习（MAML）变体，通过最小化元训练任务中的最坏情况损失，确保在罕见或困难任务上仍能保持强劲性能。该方法在凸与非凸设置下均实现了最优收敛速率，并具备泛化误差的理论保证，同时在回归与分类任务上得到了实证验证。

ABSTRACT

Meta-learning methods have shown an impressive ability to train models that rapidly learn new tasks. However, these methods only aim to perform well in expectation over tasks coming from some particular distribution that is typically equivalent across meta-training and meta-testing, rather than considering worst-case task performance. In this work we introduce the notion of task-robustness by reformulating the popular Model-Agnostic Meta-Learning (MAML) objective [Finn et al. 2017] such that the goal is to minimize the maximum loss over the observed meta-training tasks. The solution to this novel formulation is task-robust in the sense that it places equal importance on even the most difficult and/or rare tasks. This also means that it performs well over all distributions of the observed tasks, making it robust to shifts in the task distribution between meta-training and meta-testing. We present an algorithm to solve the proposed min-max problem, and show that it converges to an $\epsilon$-accurate point at the optimal rate of $\mathcal{O}(1/\epsilon^2)$ in the convex setting and to an $(\epsilon, \delta)$-stationary point at the rate of $\mathcal{O}(\max\{1/\epsilon^5, 1/\delta^5\})$ in nonconvex settings. We also provide an upper bound on the new task generalization error that captures the advantage of minimizing the worst-case task loss, and demonstrate this advantage in sinusoid regression and image classification experiments.

研究动机与目标

• 解决标准元学习方法仅针对任务平均性能进行优化，而未考虑最坏情况性能的局限性。
• 通过确保在最困难或罕见任务上表现强劲，提升元训练与元测试之间分布偏移下的鲁棒性。
• 提出一种MAML的极小化-极大化公式，显式优化观测到的元训练任务中的最大损失。
• 在凸与非凸设置下，为所提算法建立理论收敛速率。
• 推导出反映最小化最坏情况任务损失优势的泛化误差界。

提出的方法

• 将MAML目标重新表述为极小化-极大化问题，以最小化元训练任务中的最大损失。
• 提出一种求解所得极小化-极大化优化问题的算法，并提供收敛性保证。
• 在凸设置下，实现O(1/ε²)的最优收敛速率，达到ε-精确解。
• 在非凸设置下，收敛至(ε, δ)-驻点的速率为O(max{1/ε⁵, 1/δ⁵})。
• 提出一种新颖的泛化误差界，能够捕捉最坏情况损失最小化的优势。
• 采用标准元学习训练协议，适配新提出的极小化-极大化目标，基础模型架构无需修改。

实验结果

研究问题

• RQ1 通过优化最大损失而非平均损失，能否使元学习方法对最坏情况任务性能更具鲁棒性？
• RQ2 所提出的极小化-极大化MAML公式在元训练与元测试之间存在分布偏移时表现如何？
• RQ3 所提算法在凸与非凸设置下的理论收敛速率是什么？
• RQ4 与标准MAML相比，最小化最坏情况损失是否能带来更优的泛化误差？
• RQ5 该方法在具有挑战性的任务（包括罕见或困难任务）上的实际表现如何？

主要发现

• 所提任务鲁棒MAML方法在凸设置下实现了O(1/ε²)的收敛速率，达到ε-精确解。
• 在非凸设置下，该算法以O(max{1/ε⁵, 1/δ⁵})的速率收敛至(ε, δ)-驻点。
• 该方法提供了显式考虑最坏情况任务性能的泛化误差界，展示了理论优势。
• 在正弦波回归与图像分类任务上的实证结果表明，与标准MAML相比，该方法在罕见或困难任务上表现出更强的鲁棒性。
• 该方法在多样化任务分布下保持了强劲性能，表明其对分布偏移具有鲁棒性。
• 极小化-极大化公式确保所有任务（包括最困难的任务）获得同等重视，从而提升了整体可靠性。