[论文解读] Continual Learning of a Mixed Sequence of Similar and Dissimilar Tasks

Zixuan Ke, Bing Liu+1 more|arXiv (Cornell University)|Dec 18, 2021

Domain Adaptation and Few-Shot Learning参考文献 41被引用 53

一句话总结

CAT 通过保护不同任务的知识、选择性地从相似任务转移知识、并自动检测任务相似性，在单个网络中实现混合任务的忘记避免以及前向/后向知识转移。

ABSTRACT

Existing research on continual learning of a sequence of tasks focused on dealing with catastrophic forgetting, where the tasks are assumed to be dissimilar and have little shared knowledge. Some work has also been done to transfer previously learned knowledge to the new task when the tasks are similar and have shared knowledge. To the best of our knowledge, no technique has been proposed to learn a sequence of mixed similar and dissimilar tasks that can deal with forgetting and also transfer knowledge forward and backward. This paper proposes such a technique to learn both types of tasks in the same network. For dissimilar tasks, the algorithm focuses on dealing with forgetting, and for similar tasks, the algorithm focuses on selectively transferring the knowledge learned from some similar previous tasks to improve the new task learning. Additionally, the algorithm automatically detects whether a new task is similar to any previous tasks. Empirical evaluation using sequences of mixed tasks demonstrates the effectiveness of the proposed model.

研究动机与目标

• 激发持续学习以应对在混合序列任务中同时出现的忘记和知识转移。
• 提出一个 TCL 模型（CAT），它使用一个共享知识库和任务特定的掩码来防止忘记。
• 通过知识转移注意力机制实现对相似任务的选择性前向知识转移。
• 在学习新任务时允许回溯知识转移以提升先前相似任务。
• 自动检测任务相似性，以决定哪些先前任务可以向当前任务转移知识。

提出的方法

• 引入一个由所有任务共享的知识库（KB），用于存储学习到的表示。
• 训练每个任务的二进制掩码（任务掩码），以保护对不相似任务重要的单元，并识别当前任务有用的单元。
• 使用任务ID嵌入通过带缩放参数 s 的基于 sigmoid 的伪门来推导任务掩码。
• 当存在相似任务时，应用知识转移注意力（KTA）以从相似任务的掩码输出中选择性地进行前向转移的组合。
• 训练一个单独的 f_KTA 分类器，利用转移的知识来完成当前任务，从而实现前向转移，并允许对相似的过去任务进行回溯性更新。
• 同时，通过将转移模型与无转移基线进行比较来训练一个参考损失用于相似性检测，以确定 TSV（task similarity vector）。
• 通过转移模型 f_k→t 和参考模型 f_∅ 在线检测相似性，如果转移能改善验证损失，则将 k 分类为与 t 相似。

实验结果

研究问题

• RQ1 单个网络是否能够在避免对不相似任务造成遗忘的情况下，学习混合序列的相似和不相似任务？
• RQ2 模型是否能够对来自相似任务的知识进行选择性转移以提升新任务学习，并允许向后转移以提升过去任务？
• RQ3 系统是否能够自动检测任务相似性以触发适当的转移和保护机制？
• RQ4 所提出的 CAT 架构是否在混合任务序列上优于基线，并且在消融测试中证实其组件的贡献？

主要发现

• CAT 在混合的相似和不相似任务序列上持续超越强基线 TCL。
• 前向知识转移对相似任务非常有效。
• 在学习新任务后，回溯知识转移还可以进一步提升某些相似任务。
• 知识掩码在防止不相似任务遗忘的同时，为转移留出空间。
• 任务相似性检测（TSV）和知识转移注意力（KTA）是关键；消融实验会降低性能。
• CAT 在两种数据集类型上表现出鲁棒性，使用 2 层全连接网络和基于 CNN 的架构。