[论文解读] Generalization of Model-Agnostic Meta-Learning Algorithms: Recurring and Unseen Tasks

Alireza Fallah, Aryan Mokhtari+1 more|arXiv (Cornell University)|Feb 7, 2021

Domain Adaptation and Few-Shot Learning被引用 11

一句话总结

本文分析了模型无关元学习（MAML）在两种设定下的泛化性能：重复任务（训练任务之一）和未见任务。提出了元学习的一种新型稳定性定义，并证明在强凸目标下，对于重复任务，泛化误差以 𝒪(1/mn) 的速率衰减；而对于未见任务，其泛化误差取决于测试任务分布与训练任务分布之间的总变差距离。

ABSTRACT

In this paper, we study the generalization properties of Model-Agnostic Meta-Learning (MAML) algorithms for supervised learning problems. We focus on the setting in which we train the MAML model over $m$ tasks, each with $n$ data points, and characterize its generalization error from two points of view: First, we assume the new task at test time is one of the training tasks, and we show that, for strongly convex objective functions, the expected excess population loss is bounded by ${\\mathcal{O}}(1/mn)$. Second, we consider the MAML algorithm's generalization to an unseen task and show that the resulting generalization error depends on the total variation distance between the underlying distributions of the new task and the tasks observed during the training process. Our proof techniques rely on the connections between algorithmic stability and generalization bounds of algorithms. In particular, we propose a new definition of stability for meta-learning algorithms, which allows us to capture the role of both the number of tasks $m$ and number of samples per task $n$ on the generalization error of MAML.

研究动机与目标

• 理解在每项任务数据有限的元学习设定下，MAML的泛化误差。
• 通过在非独立同分布、有限样本的训练数据条件下，将训练误差与泛化误差分离，弥补现有分析中的空白。
• 为元学习算法开发一种专门的稳定性框架，以建立算法稳定性与泛化界之间的联系。
• 刻画模型性能如何依赖于任务数量（m）、每项任务的样本数（n）以及与未见任务的分布相似性。

提出的方法

• 提出一种专用于元学习的新型算法稳定性定义，捕捉任务数（m）与每项任务样本数（n）的联合影响。
• 通过算法稳定性与泛化界之间的联系，分析MAML的泛化误差，将经典结果扩展至元学习场景。
• 在损失函数满足强凸性假设的前提下，推导出重复任务与未见任务场景下的泛化误差界。
• 利用测试任务分布与训练任务分布之间的总变差距离，量化分布差异的影响。
• 采用一种理论框架，区分训练误差与泛化误差，同时考虑对有限训练数据的多次遍历。
• 通过在不同m和n下、测试与训练任务分布相似性不同的合成线性回归实验，验证理论发现。

实验结果

研究问题

• RQ1 当测试任务是m个训练任务之一时，MAML的泛化误差是多少？其随m和n如何变化？
• RQ2 当测试任务的数据分布与训练集中的分布不同时，MAML如何泛化？
• RQ3 测试任务分布与训练任务分布之间的总变差距离在MAML的泛化误差中起什么作用？
• RQ4 能否通过为元学习设计的新稳定性定义，弥合算法稳定性与MAML泛化界之间的差距？
• RQ5 任务数量（m）与每项任务的样本数（n）如何共同影响MAML在重复任务与未见任务场景下的泛化性能？

主要发现

• 对于重复任务，在强凸性假设下，MAML的期望超额总体损失被限制在𝒪(1/mn)以内，表明泛化误差随m和n的增加而衰减。
• 对于未见任务，泛化误差取决于测试任务分布与训练任务分布之间的总变差距离，且该误差不会随n的增加而衰减。
• 当测试任务与训练任务相似（总变差距离较小）时，即使n固定，随着m增加，泛化误差仍会减小。
• 理论分析表明，标准算法稳定性技术在非凸设定下施加了过于严格的步长条件，导致训练收敛性变差。
• 数值实验表明，对于重复任务，随着m和n的增加，测试误差减小；而对于分布差异较大的未见任务，误差保持较高水平。
• 实验结果验证了未见任务的泛化误差主要由分布不匹配主导，而非每项任务的样本数量。