[论文解读] Online Structured Meta-learning

Huaxiu Yao, Yingbo Zhou+4 more|arXiv (Cornell University)|Oct 22, 2020

Domain Adaptation and Few-Shot Learning参考文献 44被引用 8

一句话总结

本文提出在线结构化元学习（OSML），一种将元学习器建模为知识块层次图的框架，以在异质任务分布下实现灵活、自适应且可解释的在线元学习。通过动态构建元知识路径并更新相关知识块，OSML相较于全局共享的元学习器，在非平稳、复杂环境中实现了更快的适应能力和更强的泛化性能。

ABSTRACT

Learning quickly is of great importance for machine intelligence deployed in online platforms. With the capability of transferring knowledge from learned tasks, meta-learning has shown its effectiveness in online scenarios by continuously updating the model with the learned prior. However, current online meta-learning algorithms are limited to learn a globally-shared meta-learner, which may lead to sub-optimal results when the tasks contain heterogeneous information that are distinct by nature and difficult to share. We overcome this limitation by proposing an online structured meta-learning (OSML) framework. Inspired by the knowledge organization of human and hierarchical feature representation, OSML explicitly disentangles the meta-learner as a meta-hierarchical graph with different knowledge blocks. When a new task is encountered, it constructs a meta-knowledge pathway by either utilizing the most relevant knowledge blocks or exploring new blocks. Through the meta-knowledge pathway, the model is able to quickly adapt to the new task. In addition, new knowledge is further incorporated into the selected blocks. Experiments on three datasets demonstrate the effectiveness and interpretability of our proposed framework in the context of both homogeneous and heterogeneous tasks.

研究动机与目标

• 解决全局共享元学习器在异质任务分布下的在线元学习中的局限性。
• 实现在新任务（可能差异较大）下持续积累知识与模型扩展。
• 通过利用结构化、与任务相关的知识块，提升快速适应与泛化能力。
• 通过捕捉任务间关系的元层次图结构，增强模型可解释性。
• 为差异较大的任务提供一种灵活、可扩展的替代方案，避免为每项新任务重新创建完整的元学习器。

提出的方法

• 元学习器被组织为由多个知识块构成的层次图，每个知识块代表一种结构化先验（例如，相似的任务背景）。
• 对于每个新到达的任务，通过选择与新任务最相关的知识块，构建元知识路径。
• 当新任务与现有知识块显著不同时，动态创建新的知识块。
• 在完成任务后，通过元更新机制更新所选知识块，以整合新信息并提升未来适应能力。
• 该框架支持对已知相关知识块的利用与对新知识块的探索，实现在非平稳分布下的持续学习。
• 该方法避免依赖任务表示网络，使其适用于在线、顺序学习场景。

实验结果

研究问题

• RQ1 在异质任务分布下，结构化元学习器是否能优于全局共享的元学习器？
• RQ2 如何在在线学习中有效组织并复用多样、非平稳任务的知识？
• RQ3 分层知识块结构是否能提升在线元学习中模型的可解释性与泛化能力？
• RQ4 知识块的动态创建与更新如何影响性能与可扩展性？
• RQ5 元知识路径机制在多大程度上能实现仅用极少任务数据的快速适应？

主要发现

• OSML在同质与异质少样本学习基准上均优于现有在线元学习基线方法。
• 通过动态构建的元知识路径，利用与任务相关的结构化先验，模型实现了更强的泛化能力与更快的适应速度。
• 元层次图结构通过显式捕捉任务与知识块之间的关系，显著提升了模型可解释性。
• 与为差异较大的任务重新创建完整元学习器的方法相比，该框架显著减小了模型规模并提升了灵活性。
• 实证结果表明，OSML通过持续更新与扩展知识块，有效应对非平稳、复杂的任务分布。
• 当任务呈现不相交的模式或异质特征时，该方法仍保持强大性能，优于固定元学习器。