[论文解读] Online Meta-Learning on Non-convex Setting.

Zhenxun Zhuang, Yunlong Wang+2 more|arXiv (Cornell University)|Oct 22, 2019

Domain Adaptation and Few-Shot Learning参考文献 16被引用 1

一句话总结

该论文通过引入局部遗憾作为性能度量，将在线元学习扩展到非凸设置，实现了在序列学习中的鲁棒、快速适应。理论上证明了对数形式的局部遗憾，并在真实任务上通过实证验证了其相对于传统方法的优越性能。

ABSTRACT

The online meta-learning framework is designed for the continual lifelong learning setting. It bridges two fields: meta-learning which tries to extract prior knowledge from existing tasks for fast learning of future tasks, and online-learning which focuses on the sequential setting in which problems are revealed one by one. In this paper, we generalize the original framework from convex to non-convex setting, and introduce the local regret as the alternative performance measure. We then apply this framework to stochastic settings, and show theoretically that it enjoys a logarithmic local regret, and is robust to any hyperparameter initialization. The empirical test on a real-world task demonstrates its superiority compared with traditional methods.

研究动机与目标

• 通过从凸优化设置推广到非凸优化设置，填补在线元学习框架中的空白。
• 为非凸问题开发合适的性能度量，引入局部遗憾作为标准遗憾的替代方案。
• 确保在序列化、终身学习场景中对超参数初始化具有鲁棒性。
• 在随机设置下对框架进行理论分析，并在真实世界数据上实证验证其有效性。

提出的方法

• 为在线元学习中的非凸优化量身定制引入局部遗憾作为性能度量。
• 通过基于梯度的优化方法，将在线元学习框架适配以处理非凸损失函数。
• 设计一种元学习器，根据过往任务表现进行更新，以提升未来任务的适应能力。
• 理论分析表明，在随机假设下，该框架可实现对数形式的局部遗憾。
• 通过证明在各种超参数初始化下的稳定性，确保框架的鲁棒性。
• 在真实世界的序列学习任务上实现并评估该方法，以展示其在实证上的优越性。

实验结果

研究问题

• RQ1 在线元学习能否有效扩展到非凸优化问题？
• RQ2 在非凸设置中引入局部遗憾作为性能度量，是否能带来更好的理论和实证结果？
• RQ3 所提出的框架在序列学习中对不同超参数初始化是否具有鲁棒性？
• RQ4 该框架在随机、非凸设置下是否能获得有利的遗憾界？

主要发现

• 所提出的框架在随机非凸设置下实现了对数形式的局部遗憾，表明其具有强大的收敛特性。
• 该方法对任何超参数初始化均具有鲁棒性，展示了在不同起始条件下的稳定性。
• 在真实世界任务上的实证评估表明，其性能优于传统的在线学习和元学习基线方法。
• 理论分析证实，该框架即使在非凸、序列化学习环境中也能保持较低的遗憾。