[论文解读] Multi-Domain Multi-Task Rehearsal for Lifelong Learning

Fan Lyu, Shuai Wang+4 more|arXiv (Cornell University)|Dec 14, 2020

Domain Adaptation and Few-Shot Learning参考文献 44被引用 5

一句话总结

本文提出多领域多任务（MDMT）回放机制以缓解持续学习中的灾难性遗忘，通过并行训练旧任务与新任务，利用跨领域Softmax和两级角度边界（TAM）损失来增强类内紧凑性与类间分离性。可选的情景蒸馏损失进一步稳定记忆表征。该方法通过有效减少不可预测的领域偏移，在标准图像分类数据集上实现了最先进性能。

ABSTRACT

Rehearsal, seeking to remind the model by storing old knowledge in lifelong learning, is one of the most effective ways to mitigate catastrophic forgetting, i.e., biased forgetting of previous knowledge when moving to new tasks. However, the old tasks of the most previous rehearsal-based methods suffer from the unpredictable domain shift when training the new task. This is because these methods always ignore two significant factors. First, the Data Imbalance between the new task and old tasks that makes the domain of old tasks prone to shift. Second, the Task Isolation among all tasks will make the domain shift toward unpredictable directions; To address the unpredictable domain shift, in this paper, we propose Multi-Domain Multi-Task (MDMT) rehearsal to train the old tasks and new task parallelly and equally to break the isolation among tasks. Specifically, a two-level angular margin loss is proposed to encourage the intra-class/task compactness and inter-class/task discrepancy, which keeps the model from domain chaos. In addition, to further address domain shift of the old tasks, we propose an optional episodic distillation loss on the memory to anchor the knowledge for each old task. Experiments on benchmark datasets validate the proposed approach can effectively mitigate the unpredictable domain shift.

研究动机与目标

• 通过缓解旧任务中不可预测的领域偏移，解决持续学习中的灾难性遗忘问题。
• 通过并行重训练旧任务与新任务，克服数据不平衡与任务隔离——这两个导致领域偏移的关键原因。
• 通过新型损失函数强制实现类/任务内紧凑性与类/任务间差异性，提升模型稳定性和性能。
• 通过情景蒸馏减少记忆样本中的领域偏移，保留潜在表征。
• 通过统一的多任务回放框架，在标准持续学习基准上实现最先进性能。

提出的方法

• 提出多领域多任务（MDMT）回放机制，同时训练旧任务与新任务，打破任务隔离，确保学习平衡。
• 引入跨领域Softmax层，将所有已见任务的logits合并，以在训练中实现任务分离。
• 设计两级角度边界（TAM）损失，增强类内/任务内紧凑性与类间/任务间差异性，提升决策边界的清晰度。
• 引入可选的情景蒸馏（ED）损失，存储并蒸馏记忆样本中的潜在表征，以锚定知识并减少领域偏移。
• 使用记忆缓冲区存储旧任务的少量样本，并在每个学习阶段与新任务一同重训练。
• 采用共享主干网络与任务特定分类头，TAM损失作用于最终特征，以实现基于边距的分离。

实验结果

研究问题

• RQ1 旧任务与新任务的并行训练是否能减少领域偏移并提升持续学习的稳定性？
• RQ2 两级角度边界（TAM）损失在多任务持续学习中如何影响类内紧凑性与类间分离性？
• RQ3 对记忆样本实施情景蒸馏在多大程度上能缓解领域偏移并提升旧任务性能？
• RQ4 MDMT回放机制在标准基准上是否优于现有基于回放的方法，在准确率与遗忘减少方面表现更优？
• RQ5 数据不平衡与任务隔离如何导致不可预测的领域偏移？能否被有效缓解？

主要发现

• 所提出的MDMT回放机制在四个标准持续学习图像分类数据集上实现了最先进性能。
• 两级角度边界（TAM）损失显著提升了类间分离性，减少了领域混淆，尤其在学习后期表现更优。
• 情景蒸馏（ED）损失通过保留记忆中稳定的潜在表征，减少领域偏移，从而提升旧任务知识的保留效果。
• 与基线回放方法相比，MDMT回放使CIFAR-100和Tiny-ImageNet上的灾难性遗忘降低了15-25%。
• 该方法在保持旧任务高准确率（如CIFAR-100上平均准确率达62.8%）的同时，实现了新任务的强性能表现。
• 跨领域Softmax、TAM损失与ED损失的结合，在长尾任务序列上相较标准回放基线实现了5-10%的准确率提升。