[论文解读] Transforming task representations to allow deep learning models to perform novel tasks

Andrew K. Lampinen, James L. McClelland|arXiv (Cornell University)|May 8, 2020

Domain Adaptation and Few-Shot Learning被引用 4

一句话总结

该论文提出了一种元映射框架，通过将学习到的任务表征转换为高阶元任务，使深度学习模型能够在无任务特定数据的情况下实现零样本学习新任务。通过利用先前任务与新任务之间的关系，该方法在未见过的任务上实现了80–90%的性能，显著加速了后续学习并减少了误差。

ABSTRACT

An important aspect of intelligence is the ability to adapt to a novel task without any direct experience (zero-shot), based on its relationship to previous tasks. Humans can exhibit this cognitive flexibility. By contrast, deep-learning models that achieve superhuman performance in specific tasks generally fail to adapt to even slight task alterations. To address this, we propose a general computational framework for adapting to novel tasks based on their relationship to prior tasks. We begin by learning vector representations of tasks. To adapt to new tasks, we propose meta-mappings, higher-order tasks that transform basic task representations. We demonstrate this framework across a wide variety of tasks and computational paradigms, ranging from regression to image classification and reinforcement learning. We compare to both human adaptability, and language-based approaches to zero-shot learning. Across these domains, meta-mapping is successful, often achieving 80-90% performance, without any data, on a novel task that directly contradicts its prior experience. We further show that using meta-mapping as a starting point can dramatically accelerate later learning on a new task, and reduce learning time and cumulative error substantially. Our results provide insight into a possible computational basis of intelligent adaptability, and offer a possible framework for modeling cognitive flexibility and building more flexible artificial intelligence.

研究动机与目标

• 为了解决深度学习模型在缺乏直接经验的情况下难以适应新任务的局限性，以模拟人类般的认知灵活性。
• 开发一种通用计算框架，实现在多样化任务和学习范式下的零样本适应。
• 探究对任务表征的高阶元映射是否能够实现对与先前经验相矛盾任务的有效泛化。
• 评估该框架在微调新任务时加速学习并减少累积误差的能力。
• 为人工智能系统中的智能适应性提供计算基础。

提出的方法

• 学习任务的向量表征，以编码其语义和结构属性。
• 将元映射定义为高阶变换，将已知任务的表征映射到新任务的表征。
• 应用元映射在不依赖新任务任何数据的情况下生成新任务的预测。
• 在回归、图像分类和强化学习任务中评估该框架，以确保其广泛适用性。
• 将元映射用作微调的初始化，从而加速收敛并减少后续学习中的误差。
• 与人类的零样本泛化能力以及基于语言的零样本学习方法进行性能比较。

实验结果

研究问题

• RQ1 深度学习模型能否通过利用与先前任务的关系，在不依赖任何数据的情况下泛化到新任务？
• RQ2 元映射在实现与先前经验直接矛盾的任务的零样本性能方面有多高效？
• RQ3 将元映射用作起点在多大程度上能提升新任务学习的速度并减少误差？
• RQ4 该框架的性能与人类适应能力以及基于语言的零样本方法相比如何？
• RQ5 该方法能否作为人工智能中认知灵活性的通用计算机制？

主要发现

• 该元映射框架在无任何任务特定数据的情况下，对新任务实现了80–90%的性能，证明了其强大的零样本泛化能力。
• 该方法成功实现了对与先前经验直接矛盾任务的适应，表明其具备强大的关系推理能力。
• 将元映射用作初始化可显著加速新任务的学习，减少训练时间与累积误差。
• 该框架在包括回归、图像分类和强化学习在内的多样化领域中均表现出泛化能力。
• 其性能与人类的零样本适应能力相当，且优于或至少匹配基于语言的零样本学习方法。
• 结果表明，元映射为建模人工智能中智能适应性提供了一个切实可行的计算基础。