[論文レビュー] A Unified Approach to Domain Incremental Learning with Memory: Theory and Algorithm

Haizhou Shi, Hao Wang|arXiv (Cornell University)|Oct 18, 2023

Domain Adaptation and Few-Shot Learning被引用数 7

ひとこと要約

本稿では、適応係数を用いた一般化誤差境界の導出によって、既存のドメインインクリメンタルラーニング手法を統一する理論的かつアルゴリズム的枠組みである統一的ドメインインクリメンタルラーニング（UDIL）を提案する。UDILは訓練中にこれらの係数を動的に最適化することで性能を向上させ、合成および実世界のベンチマークで、著しく減少した忘却を伴いながら最先端の結果を達成する。

ABSTRACT

Domain incremental learning aims to adapt to a sequence of domains with access to only a small subset of data (i.e., memory) from previous domains. Various methods have been proposed for this problem, but it is still unclear how they are related and when practitioners should choose one method over another. In response, we propose a unified framework, dubbed Unified Domain Incremental Learning (UDIL), for domain incremental learning with memory. Our UDIL **unifies** various existing methods, and our theoretical analysis shows that UDIL always achieves a tighter generalization error bound compared to these methods. The key insight is that different existing methods correspond to our bound with different **fixed** coefficients; based on insights from this unification, our UDIL allows **adaptive** coefficients during training, thereby always achieving the tightest bound. Empirical results show that our UDIL outperforms the state-of-the-art domain incremental learning methods on both synthetic and real-world datasets. Code will be available at https://github.com/Wang-ML-Lab/unified-continual-learning.

研究の動機と目的

• 既存のドメインインクリメンタルラーニング手法における理論的統一の欠如と、性能の一貫性の欠如に対処すること。
• 確立された手法同士の理論的関係を特定し、それらがすべて固定係数を用いた同一の一般化誤差境界を最小化していることを明らかにすること。
• 訓練中に適応係数の学習を可能にする統一されたフレームワークを開発し、よりタイトな一般化誤差境界を達成すること。
• 適応係数が固定係数のベースラインと比較して優れた性能とより少ない災難的忘却をもたらすことを実証的に検証すること。

提案手法

• UDILは、固定係数を用いた特別なケースとして既存の手法を包含する統一された一般化誤差境界を導入する。
• フレームワークにより、訓練中に動的かつ適応的な係数の学習が可能となり、現在のドメインと過去のドメインの学習のトレードオフが最適化される。
• 現在のドメイン損失とリプレイ損失を組み合わせたサrogate損失を用い、事前に定義されたβ値の代わりに学習可能な係数を導入する。
• 適応係数は勾配ベースの最適化により更新され、モデルが現在の知識と過去の知識のバランスを自動的に最適化できる。
• 記憶制約下でも実用性を保つために、過去のエキスプレムのメモリリプレイを活用して過去のドメイン誤差を推定する。
• 理論的分析により、UDILが固定係数法よりも常にタイトな一般化誤差境界を達成することが証明されている。

実験結果

リサーチクエスチョン

• RQ1 既存のドメインインクリメンタルラーニング手法は、理論的にどのように相互に関連しているか？
• RQ2 固定係数法よりもタイトな一般化誤差境界を達成できる統一されたフレームワークを構築できるか？
• RQ3 訓練中に適応係数を学習することで、固定係数法と比較して性能が向上するか？
• RQ4 UDILは、ベンチマークデータセット上でSOTA手法と比較して、どれほど災難的忘却を軽減するか？

主な発見

• R-MNIST（バッファサイズ800）では、UDILが平均正答率89.191%、忘却率6.351%を達成し、2番目に優れた手法（DER++：平均正答率89.746%、忘却率7.821%）を上回った。
• Seq-CORe50（バッファサイズ1000）では、UDILが平均正答率88.155%、忘却率12.882%を達成し、2番目に優れた手法（DER++：平均正答率86.392%、忘却率13.128%）を上回った。
• バッファサイズ800の条件下で、R-MNISTではDER++と比較して忘却率を8.43%低減し、Seq-CORe50では0.24%低減した。
• R-MNISTでは、バッファサイズ200の条件下でUDILが忘却率12.971%を達成し、DER++（21.743%）やCLS-ER（22.483%）と比較して顕著に低い水準に抑えた。
• Seq-CORe50では、バッファサイズ1000の条件下でUDILが平均正答率88.155%を達成し、より小さなバッファを使用した際のR-MNISTにおけるジョイントオラクル性能97.150%を上回った。
• 理論的分析により、UDILが固定係数法よりも常にタイトな一般化誤差境界を達成することが確認され、従来のアプローチに対する原理的改善が裏付けられた。