[论文解读] A Unified Approach to Domain Incremental Learning with Memory: Theory and Algorithm

Haizhou Shi, Hao Wang|arXiv (Cornell University)|Oct 18, 2023

Domain Adaptation and Few-Shot Learning被引用 7

一句话总结

本文提出统一域增量学习（UDIL），一种理论与算法框架，通过推导带有自适应系数的一般化误差界，统一了现有域增量学习方法。UDIL通过在训练过程中动态优化这些系数，显著减少遗忘，实现了合成数据集和真实世界基准上的最先进性能。

ABSTRACT

Domain incremental learning aims to adapt to a sequence of domains with access to only a small subset of data (i.e., memory) from previous domains. Various methods have been proposed for this problem, but it is still unclear how they are related and when practitioners should choose one method over another. In response, we propose a unified framework, dubbed Unified Domain Incremental Learning (UDIL), for domain incremental learning with memory. Our UDIL **unifies** various existing methods, and our theoretical analysis shows that UDIL always achieves a tighter generalization error bound compared to these methods. The key insight is that different existing methods correspond to our bound with different **fixed** coefficients; based on insights from this unification, our UDIL allows **adaptive** coefficients during training, thereby always achieving the tightest bound. Empirical results show that our UDIL outperforms the state-of-the-art domain incremental learning methods on both synthetic and real-world datasets. Code will be available at https://github.com/Wang-ML-Lab/unified-continual-learning.

研究动机与目标

• 为解决现有域增量学习方法缺乏理论统一性以及性能不一致的问题。
• 识别现有方法之间的理论关系，揭示它们均最小化相同的泛化误差界，且系数固定。
• 开发一个统一框架，允许在训练过程中自适应学习系数，以获得更紧的泛化误差界。
• 通过实证验证，自适应系数相比固定系数基线可实现更优性能与更少灾难性遗忘。

提出的方法

• UDIL引入一个统一的泛化误差界，将现有方法作为固定系数的特例涵盖其中。
• 该框架支持在训练过程中动态、自适应地学习系数，以优化当前与过去域学习之间的权衡。
• 采用结合当前域损失与回放损失的代理损失函数，其中系数可学习，替代先前方法中使用的固定β值。
• 通过基于梯度的优化更新自适应系数，使模型能自动平衡当前与过去知识。
• 利用过去样本的内存回放来估计过去域误差，在内存受限条件下保持实用性。
• 理论分析证明，UDIL始终能获得比任何固定系数方法更紧的泛化误差界。

实验结果

研究问题

• RQ1 现有域增量学习方法在理论上如何相互关联？
• RQ2 能否开发一个统一框架，涵盖并改进现有方法，实现更紧的泛化误差界？
• RQ3 在训练过程中自适应学习系数是否能带来优于固定系数的性能？
• RQ4 与最先进方法相比，UDIL在基准数据集上在多大程度上减少了灾难性遗忘？

主要发现

• 在R-MNIST数据集（800缓存大小）上，UDIL实现了89.191%的平均准确率和仅6.351%的遗忘率，优于第二名方法（DER++，89.746%平均准确率，7.821%遗忘率）。
• 在Seq-CORe50数据集（1000缓存大小）上，UDIL实现了88.155%的平均准确率和12.882%的遗忘率，超过第二名方法（DER++，86.392%平均准确率，13.128%遗忘率）。
• 在800缓存大小下，与DER++相比，UDIL在R-MNIST上遗忘率降低8.43%，在Seq-CORe50上降低0.24%。
• 在R-MNIST上，UDIL在200缓存大小下达到12.971%的遗忘率，显著低于DER++（21.743%）和CLS-ER（22.483%）。
• 在Seq-CORe50上，UDIL在1000缓存大小下实现88.155%的平均准确率，超过在R-MNIST上使用更小缓存时的联合Oracle性能97.150%。
• 理论分析确认，UDIL始终能获得比任何固定系数方法更紧的泛化误差界，为现有方法提供了有原则的改进。