[论文解读] Continuous Meta-Learning without Tasks

J. Michael Harrison, Apoorva Sharma+2 more|arXiv (Cornell University)|Dec 18, 2019

Domain Adaptation and Few-Shot Learning参考文献 44被引用 9

一句话总结

本文提出 MOCA（基于在线变化点分析的元学习），一种通过将可微分贝叶斯变化点检测与任意元学习算法结合，实现在未分割时间序列数据上的元学习的框架。该方法允许元学习器与变化点检测的联合优化，在训练和推理过程中均无需任务边界信息，性能可与监督任务分割方法相媲美。

ABSTRACT

Meta-learning is a promising strategy for learning to efficiently learn within new tasks, using data gathered from a distribution of tasks. However, the meta-learning literature thus far has focused on the task segmented setting, where at train-time, offline data is assumed to be split according to the underlying task, and at test-time, the algorithms are optimized to learn in a single task. In this work, we enable the application of generic meta-learning algorithms to settings where this task segmentation is unavailable, such as continual online learning with a time-varying task. We present meta-learning via online changepoint analysis (MOCA), an approach which augments a meta-learning algorithm with a differentiable Bayesian changepoint detection scheme. The framework allows both training and testing directly on time series data without segmenting it into discrete tasks. We demonstrate the utility of this approach on a nonlinear meta-regression benchmark as well as two meta-image-classification benchmarks.

研究动机与目标

• 解决在未观察到任务边界的未分割序列数据中元学习的空白问题。
• 使元学习算法能够直接在连续时间序列上运行，而无需离线任务分割。
• 通过可微分贝叶斯框架，反向传播梯度，联合优化元学习器与变化点检测。
• 证明 MOCA 在无显式任务标签的情况下，性能可与监督任务分割方法相媲美。

提出的方法

• MOCA 将可微分贝叶斯变化点检测模型（BOCPD）与元学习算法结合，实现在未分割时间序列上的端到端训练。
• 通过维护对运行长度（自上次变化点以来的时间）的后验分布，建模任务切换中的不确定性。
• 通过变化点估计过程反向传播梯度，联合优化元学习器与变化点检测参数。
• 采用短序列（T ≈ 100）的批处理训练，以降低计算成本，同时缓解危险率被人为放大的问题。
• 该方法支持回归与分类基准任务，且与多种元学习算法兼容。
• 在测试阶段，其采用线性时间复杂度的在线推理，尽管可通过剪枝将其降低至常数时间。

实验结果

研究问题

• RQ1 在未观察到任务边界的未分割时间序列数据上，元学习能否被有效应用？
• RQ2 在预测对数似然性方面，MOCA 的性能与监督任务分割相比如何？
• RQ3 在变化点上使用部分或无监督进行训练，对 MOCA 性能的影响程度如何？
• RQ4 MOCA 是否通过联合优化元学习器与变化点检测，实现了优于独立训练的泛化能力？
• RQ5 MOCA 中训练序列长度与模型性能之间的计算权衡如何？

主要发现

• MOCA 的测试性能可与使用完全监督变化点训练的模型相媲美，表明显式任务分割的边际收益极小。
• 随着训练期间变化点监督率的提高，性能单调提升，但在低监督率下仍保持稳健。
• 在正弦波基准任务中，当危险率设为 0.01 时，当训练时长远超 T = 100 后性能趋于平稳，表明更长序列的收益递减。
• MOCA 的测试时推理在序列长度上呈线性扩展，但效率仍很高——即使在 25,000 个时间步长时，GPU 上每轮迭代也低于 7ms。
• 该框架保持了稳定且可重复的计算时间，各次试验间方差可忽略，表明具有高度可复现性。
• 实证结果表明，MOCA 的联合优化使元学习器即使在无显式任务边界的情况下，也能良好泛化至新任务。