[论文解读] Meta-Learning with Neural Tangent Kernels

Yufan Zhou, Zhenyi Wang+3 more|arXiv (Cornell University)|Feb 7, 2021

Domain Adaptation and Few-Shot Learning参考文献 34被引用 4

一句话总结

本文提出了 Meta-RKHS-I 和 Meta-RKHS-II 两种元学习算法，将模型无关元学习（MAML）推广至由神经正切核（NTK）诱导的再生核希尔伯特空间（RKHS）。通过用可解析求解的闭式正则化方法替代迭代式内层适应过程，该方法实现了更快的训练速度和更优的泛化性能，在 Mini-ImageNet 和 FC-100 数据集上的少样本学习、对抗鲁棒性以及分布外泛化任务中均优于 MAML 及基线方法。

ABSTRACT

Model Agnostic Meta-Learning (MAML) has emerged as a standard framework for meta-learning, where a meta-model is learned with the ability of fast adapting to new tasks. However, as a double-looped optimization problem, MAML needs to differentiate through the whole inner-loop optimization path for every outer-loop training step, which may lead to both computational inefficiency and sub-optimal solutions. In this paper, we generalize MAML to allow meta-learning to be defined in function spaces, and propose the first meta-learning paradigm in the Reproducing Kernel Hilbert Space (RKHS) induced by the meta-model's Neural Tangent Kernel (NTK). Within this paradigm, we introduce two meta-learning algorithms in the RKHS, which no longer need a sub-optimal iterative inner-loop adaptation as in the MAML framework. We achieve this goal by 1) replacing the adaptation with a fast-adaptive regularizer in the RKHS; and 2) solving the adaptation analytically based on the NTK theory. Extensive experimental studies demonstrate advantages of our paradigm in both efficiency and quality of solutions compared to related meta-learning algorithms. Another interesting feature of our proposed methods is that they are demonstrated to be more robust to adversarial attacks and out-of-distribution adaptation than popular baselines, as demonstrated in our experiments.

研究动机与目标

• 解决由于双层优化和反向传播通过内层梯度导致的 MAML 计算效率低下和适应性能不佳的问题。
• 克服在训练和推理过程中调整内层适应步数的挑战。
• 在由神经正切核（NTK）诱导的再生核希尔伯特空间（RKHS）中构建元学习框架。
• 利用 NTK 理论实现闭式、非迭代的适应过程，消除对基于梯度的内层更新的依赖。
• 相比现有元学习基线方法，提升对对抗攻击的鲁棒性以及分布外泛化能力。

提出的方法

• 在元模型的神经正切核（NTK）诱导的 RKHS 中形式化元学习，实现函数空间优化。
• 提出 Meta-RKHS-I，将内层适应替换为 RKHS 中的快速自适应正则化器，其推导基于忽略高阶项的 MAML 目标。
• 提出 Meta-RKHS-II，利用 NTK 理论解析求解适应问题，实现元目标的闭式直接评估。
• 利用 NTK 将神经网络参数映射到 RKHS 中的函数，通过核方法实现高效优化。
• 定义元目标，通过基于核的正则化最小化任务损失，同时强制实现函数平滑性和快速适应性。
• 使用标准优化方法在闭式元目标上训练元模型，避免通过内层更新的梯度链。

实验结果

研究问题

• RQ1 能否基于神经正切核（NTK）诱导的再生核希尔伯特空间（RKHS）在函数空间中有效重构元学习？
• RQ2 能否用解析式、非迭代的适应方法替代 MAML 中基于梯度的内层更新，从而提升训练效率和解的质量？
• RQ3 与 MAML 及其变体相比，所提方法在少样本分类任务中的表现如何？
• RQ4 所提方法在多大程度上提升了对对抗攻击的鲁棒性以及分布外泛化能力？
• RQ5 所提基于 RKHS 的元学习算法与现有 MAML 变体之间存在何种理论联系？

主要发现

• 在 Mini-ImageNet 上，Meta-RKHS-II 在 5 类 5 样本设置下达到 76.32% 的准确率，优于 SOTA 方法 Bayesian TAML（67.36%）和 MAML（65.19%）。
• 在 FC-100 上，Meta-RKHS-II 在 5 类 1 样本设置下达到 49.92% 的准确率，在 5 类 5 样本设置下达到 76.32%，显著优于 Reptile 和 iMAML。
• Meta-RKHS-II 在 PGD 对抗攻击下表现出更优的鲁棒性，在 1 样本和 5 样本设置下均保持更高准确率。
• 该方法在分布外数据集上泛化能力更强，在 VGG-F 低层数据集上达到 59.75% 的准确率，在 Flowers 数据集上达到 49.92% 的准确率（5 类 5 样本测试）。
• Meta-RKHS-I 在不同适应步数下始终优于 Reptile，验证了函数梯度范数和任务特定接近度的重要性。
• 理论分析表明，Meta-RKHS-I 与忽略高阶项的 MAML 密切相关，为其有效性提供了理论依据。