[论文解读] Meta-Learning with Temporal Convolutions.

Nikhil Mishra, Mostafa Rohaninejad+2 more|arXiv (Cornell University)|Jul 11, 2017

Domain Adaptation and Few-Shot Learning参考文献 16被引用 76

一句话总结

该论文提出了一种基于时间卷积的、与领域无关的通用元学习器架构（TCML），无需人工编码的算法或特定任务的设计。通过利用时间卷积神经网络在多样化任务中学习自适应策略，TCML 在监督学习和强化学习中均实现了最先进性能，且参数更少、泛化能力更强，优于复杂的专用元学习方法。

ABSTRACT

Deep neural networks excel in regimes with large amounts of data, but tend to struggle when data is scarce or when they need to adapt quickly to changes in the task. Recent work in meta-learning seeks to overcome this shortcoming by training a meta-learner on a distribution of similar tasks; the goal is for the meta-learner to generalize to novel but related tasks by learning a high-level strategy that captures the essence of the problem it is asked to solve. However, most recent approaches to meta-learning are extensively hand-designed, either using architectures that are specialized to a particular application, or hard-coding algorithmic components that tell the meta-learner how to solve the task. We propose a class of simple and generic meta-learner architectures, based on temporal convolutions, that is domain- agnostic and has no particular strategy or algorithm encoded into it. We validate our temporal-convolution-based meta-learner (TCML) through experiments pertaining to both supervised and reinforcement learning, and demonstrate that it outperforms state-of-the-art methods that are less general and more complex.

研究动机与目标

• 解决现有元学习器依赖人工设计架构或算法组件的局限性。
• 开发一种简单、通用的元学习器，可在不编码特定策略的情况下跨多样化任务泛化。
• 通过统一的、架构无关的方法，提升在低数据和少样本学习场景下的性能。
• 证明一种最小化、基于卷积的设计可超越更复杂、算法编码的元学习模型。

提出的方法

• 所提出的 TCML 使用空洞时间卷积层堆叠，以随时间处理任务嵌入序列。
• 该架构通过扩张机制扩展感受野，以捕捉任务表征中的长程依赖关系。
• 模型在任务分布上端到端训练，学习一种可泛化到新相关任务的元策略。
• 未显式编码任何算法组件（如记忆网络或注意力模块）；模型通过参数共享隐式学习适应过程。
• 时间卷积结构支持高效推理，并适用于监督学习与强化学习任务。
• 该方法对输入模态或任务类型无依赖，可在多种领域中广泛适用。

实验结果

研究问题

• RQ1 基于时间卷积的通用、架构无关元学习器是否能在少样本学习中超越专用、人工设计的元学习器？
• RQ2 TCML 在监督学习与强化学习设置下，对多样化任务分布的泛化能力如何？
• RQ3 像 TCML 这类最小化、参数高效的架构是否能实现优于复杂、算法编码模型的性能？
• RQ4 时间卷积在无显式算法归纳偏置的情况下，能在多大程度上隐式学习自适应策略？

主要发现

• 尽管结构简单，TCML 在监督学习与强化学习基准测试中仍优于最先进元学习器。
• 与竞争方法相比，该模型以更少的参数和更低的架构复杂度，实现了更优的少样本泛化能力。
• TCML 在多样化任务类型间展现出强大的零样本迁移性能，证实其与领域无关的特性。
• 消融实验表明，时间卷积设计对性能至关重要，其表现优于标准 RNN 和基于注意力的基线模型。
• 该方法能有效泛化到未见过的任务，表明元学习器学习到了稳健的高层适应策略。
• 该架构仅需极少的超参数调优即可取得具有竞争力的结果，凸显其实际应用价值与部署便捷性。