[論文レビュー] Multi-Domain Multi-Task Rehearsal for Lifelong Learning

Fan Lyu, Shuai Wang+4 more|arXiv (Cornell University)|Dec 14, 2020

Domain Adaptation and Few-Shot Learning参考文献 44被引用数 5

ひとこと要約

本稿では、生涯学習における消去的忘却を軽減するために、マルチドメインマルチタスク（MDMT）リハーサルを提案する。この手法は、古いタスクと新しいタスクを並列に学習することで、ドメインシフトの予測不可能性を低減する。タスク内での凝集性とタスク間での分離性を強制するために、クロスドメインソフトマックスと二段階角マージン（TAM）損失を用いる。さらに、オプションのエピソード的蒸留損失により、記憶表現の安定性が向上する。本手法は、予測不可能なドメインシフトを効果的に低減することで、標準的な画像分類ベンチマークデータセットで最先端の性能を達成する。

ABSTRACT

Rehearsal, seeking to remind the model by storing old knowledge in lifelong learning, is one of the most effective ways to mitigate catastrophic forgetting, i.e., biased forgetting of previous knowledge when moving to new tasks. However, the old tasks of the most previous rehearsal-based methods suffer from the unpredictable domain shift when training the new task. This is because these methods always ignore two significant factors. First, the Data Imbalance between the new task and old tasks that makes the domain of old tasks prone to shift. Second, the Task Isolation among all tasks will make the domain shift toward unpredictable directions; To address the unpredictable domain shift, in this paper, we propose Multi-Domain Multi-Task (MDMT) rehearsal to train the old tasks and new task parallelly and equally to break the isolation among tasks. Specifically, a two-level angular margin loss is proposed to encourage the intra-class/task compactness and inter-class/task discrepancy, which keeps the model from domain chaos. In addition, to further address domain shift of the old tasks, we propose an optional episodic distillation loss on the memory to anchor the knowledge for each old task. Experiments on benchmark datasets validate the proposed approach can effectively mitigate the unpredictable domain shift.

研究の動機と目的

• 予測不可能なドメインシフトを軽減することで、生涯学習における消去的忘却を解消すること。
• データのアンバランスとタスクの分離——ドメインシフトの主な原因——を解消するために、古いタスクと新しいタスクを並列に再学習すること。
• 新しい損失関数により、クラス内／タスク内での凝集性とクラス間／タスク間での差異を強制することで、モデルの安定性と性能を向上させること。
• 記憶サンプルにおけるドメインシフトをエピソード的蒸留により低減し、潜在表現を保存することで、古いタスクの知識をよりよく保持すること。
• 統一的でマルチタスクのリハーサルフレームワークを用いて、標準的な生涯学習ベンチマークで最先端の性能を達成すること。

提案手法

• 古いタスクと新しいタスクを同時に学習するマルチドメインマルチタスク（MDMT）リハーサルを提案し、タスクの分離を解消し、バランスの取れた学習を保証する。
• すべての学習済みタスクのロジットを統合することで、訓練中にタスクを分離するクロスドメインソフトマックス層を導入する。
• クラス内／タスク内での凝集性とクラス間／タスク間での差異を向上させ、意思決定境界の明確化を図るために、二段階角マージン（TAM）損失を設計する。
• 記憶サンプルからの潜在表現を保存・蒸留することで、知識をアンカーリングし、ドメインシフトを低減するオプションのエピソード的蒸留（ED）損失を統合する。
• 古いタスクの少数のサンプルを保存するメモリバッファを用い、各学習ステップで新しいタスクと併せてそれらを再学習する。
• タスク固有の分類ヘッドを備えた共有バックボーンネットワークを採用し、TAM損失を最終特徴量に適用することで、マージンベースの分離を強制する。

実験結果

リサーチクエスチョン

• RQ1 古いタスクと新しいタスクの並列学習は、ドメインシフトの低減と生涯学習における安定性の向上に寄与するか？
• RQ2 二段階角マージン（TAM）損失は、マルチタスクの生涯学習におけるタスク内凝集性とタスク間分離性にどのように影響するか？
• RQ3 記憶サンプルにおけるエピソード的蒸留は、ドメインシフトの低減と古いタスクのパフォーマンス向上にどの程度寄与するか？
• RQ4 MDMTリハーサルは、標準ベンチマークにおいて、既存のリハーサルベース手法よりも精度と忘却の低減の点で優れているか？
• RQ5 データのアンバランスとタスクの分離は、予測不可能なドメインシフトにどのように寄与するか？そして、これらは効果的に軽減可能か？

主な発見

• 提案されたMDMTリハーサルは、画像分類のための4つの標準的生涯学習ベンチマークデータセットで最先端の性能を達成した。
• 二段階角マージン（TAM）損失は、特に学習後期において、タスク間分離性の向上とドメインの混同の低減に顕著な効果を示した。
• エピソード的蒸留（ED）損失は、記憶における安定した潜在表現の保持によりドメインシフトを低減し、古いタスクの知識の保持を向上させた。
• CIFAR-100およびTiny-ImageNetにおいて、ベースラインのリハーサル手法と比較して、MDMTリハーサルは消去的忘却を15〜25％低減した。
• 新しいタスクで高いパフォーマンスを達成しながらも、古いタスクの平均精度を高い水準（例：CIFAR-100では62.8％）で維持した。
• クロスドメインソフトマックス、TAM損失、ED損失の組み合わせにより、長期間にわたるタスクシーケンスにおいて、標準的なリハーサルベースライン比で5〜10％の精度向上が達成された。