[论文解读] Sequential mastery of multiple visual tasks: Networks naturally learn to learn and forget to forget

Guy Davidson, Michael C. Mozer|arXiv (Cornell University)|May 26, 2019

Domain Adaptation and Few-Shot Learning被引用 4

一句话总结

该论文表明，标准卷积神经网络在顺序学习多个视觉任务时，自然表现出前向促进作用和减少的后向干扰，而无需专门的网络架构或正则化方法。随着网络掌握的任务增多，其学习新任务的速度加快，遗忘旧任务的程度降低——这表明更广泛的领域经验本身能内在提升持续学习能力，与人类学习的可扩展性相一致。

ABSTRACT

We explore the behavior of a standard convolutional neural net in a continual-learning setting that introduces visual classification tasks sequentially and requires the net to master new tasks while preserving mastery of previously learned tasks. This setting corresponds to that which human learners face as they acquire domain expertise serially, for example, as an individual studies a textbook. Through simulations involving sequences of ten related visual tasks, we find reason for optimism that nets will scale well as they advance from having a single skill to becoming multi-skill domain experts. We observe two key phenomena. First, \\emph{forward facilitation}---the accelerated learning of task $n+1$ having learned $n$ previous tasks---grows with $n$. Second, \\emph{backward interference}---the forgetting of the $n$ previous tasks when learning task $n+1$---diminishes with $n$. Amplifying forward facilitation is the goal of research on metalearning, and attenuating backward interference is the goal of research on catastrophic forgetting. We find that both of these goals are attained simply through broader exposure to a domain.

研究动机与目标

• 研究标准神经网络在多个顺序视觉任务中持续学习的扩展特性。
• 检验随着任务暴露增加，前向促进（新任务学习更快）和减少的后向干扰（旧任务遗忘更少）是否自然出现。
• 评估仅通过更广泛的领域经验是否能缓解灾难性遗忘并增强元学习类优势，而无需专门机制。
• 探讨神经网络学习动态与人类认知学习模式之间的类比，特别是分散练习效应和任务相似性影响。

提出的方法

• 在严格顺序的顺序下，对标准卷积神经网络依次训练十个相关视觉分类任务。
• 测量每个新任务达到标准性能所需的学习次数，同时保持对先前学习任务的性能。
• 通过测量学习新任务后先前任务的性能下降程度，并追踪恢复性能所需的再训练工作量，量化后向干扰。
• 分析任务间的扩展行为，包括幂律学习曲线以及干扰和促进作用的非单调模式。
• 通过改变任务维度（如纹理 vs. 形状）测试任务相似性效应，并引入基于任务的视觉处理调制。
• 使用双对数图评估学习效率相对于任务数量和训练量的幂律扩展。

实验结果

研究问题

• RQ1 随着网络积累更多视觉任务，是否自然出现前向促进作用——即后期任务学习速度加快？
• RQ2 随着网络通过顺序学习获得更多的领域专长，后向干扰——即先前学习任务的遗忘——是否减少？
• RQ3 先前学习任务的数量如何影响新任务学习的效率和稳定性？
• RQ4 任务相似性在多大程度上影响顺序持续学习中的干扰和促进作用？
• RQ5 通过顺序任务暴露实现的分散、交错练习，是否能在不依赖专门正则化或回放机制的情况下减少遗忘？

主要发现

• 前向促进作用随先前学习任务数量的增加而增强：随着领域专长的积累，网络学习新任务的速度加快，表明其自然涌现出元学习能力。
• 后向干扰随任务数量增加而减少：在引入新任务时，早期任务的性能下降程度降低，表明随时间推移记忆稳定性提高。
• 恢复先前任务性能所需的再训练工作量显著减少，表明通过分散练习形成了持久的记忆。
• 学习效率相对于所学任务数量和每项任务的训练量均遵循幂律扩展，这是人类技能习得的典型特征。
• 任务2的遗忘率异常上升，可能对应于一种过渡阶段，或类似于‘零一无穷’原则，早期任务对之间表现出更高的干扰。
• 降低任务相似性（如通过改变任务维度）以及引入基于任务的视觉处理调制，均可减轻干扰，支持感知独特性在减少干扰中的作用。