[论文解读] A Comprehensive Overview and Survey of Recent Advances in Meta-Learning

Huimin Peng|arXiv (Cornell University)|Apr 17, 2020

Domain Adaptation and Few-Shot Learning参考文献 123被引用 37

一句话总结

本综述回顾元学习方法、分类、数据集和应用，重点放在少样本学习及其与其他机器学习框架的整合。

ABSTRACT

This article reviews meta-learning also known as learning-to-learn which seeks rapid and accurate model adaptation to unseen tasks with applications in highly automated AI, few-shot learning, natural language processing and robotics. Unlike deep learning, meta-learning can be applied to few-shot high-dimensional datasets and considers further improving model generalization to unseen tasks. Deep learning is focused upon in-sample prediction and meta-learning concerns model adaptation for out-of-sample prediction. Meta-learning can continually perform self-improvement to achieve highly autonomous AI. Meta-learning may serve as an additional generalization block complementary for original deep learning model. Meta-learning seeks adaptation of machine learning models to unseen tasks which are vastly different from trained tasks. Meta-learning with coevolution between agent and environment provides solutions for complex tasks unsolvable by training from scratch. Meta-learning methodology covers a wide range of great minds and thoughts. We briefly introduce meta-learning methodologies in the following categories: black-box meta-learning, metric-based meta-learning, layered meta-learning and Bayesian meta-learning framework. Recent applications concentrate upon the integration of meta-learning with other machine learning framework to provide feasible integrated problem solutions. We briefly present recent meta-learning advances and discuss potential future research directions.

研究动机与目标

• 激发并界定元学习及其在快速适应未见任务方面的目标。
• 将元学习方法分为基于模型、基于度量、基于优化以及贝叶斯框架四大类。
• 总结用于少样本元学习和情节化训练的数据集与表述。
• 概述元学习如何与强化学习、模仿学习、在线学习和无监督学习结合。
• 强调未来研究方向及对通用人工智能的潜在影响。

提出的方法

• 将元学习方法分为四大类：基于模型、基于度量、分层/基于优化以及贝叶斯元学习。
• 讨论具有代表性的方法，如记忆增强网络、孪生/原型/匹配网络、MAML及其变体，以及贝叶斯扩展。
• 描述用于少样本学习的情节化训练，以及含支持集和查询集的元训练/验证/测试工作流程。
• 回顾任务之间相似性建模的作用以及如何引导跨任务的快速适应。
• 总结元强化学习和元模仿学习的应用，以及无监督和在线元学习。

实验结果

研究问题

• RQ1 元学习的主要方法学类别及其核心机制是什么？
• RQ2 少样本学习框架如何使用情节化训练实现跨任务的快速自适应？
• RQ3 在评估元学习方法时常用哪些数据集和基准，特别是图像分类方面？
• RQ4 元学习如何与其他机器学习范式（如强化学习、模仿学习、在线学习和无监督学习）整合？
• RQ5 未来元学习研究中确定的有前景的方向与挑战有哪些？

主要发现

• 元学习方法大致分为基于模型、基于度量、分层/基于优化以及贝叶斯框架。
• MAML 被视为一种突出且对模型无关的做法，适用于任何使用 SGD 训练的学习者。
• 少样本学习是最近进展的主要关注点，常用数据集如 miniImageNet 和 tieredImageNet 用于评估。
• 元学习越来越多地与其他机器学习框架集成，如元强化学习、元模仿学习，以及在线/无监督元学习。
• 对任务之间相似性建模以实现跨多样任务的泛化的关注度日益增加。