[論文レビュー] Continual Learning of a Mixed Sequence of Similar and Dissimilar Tasks

Zixuan Ke, Bing Liu+1 more|arXiv (Cornell University)|Dec 18, 2021

Domain Adaptation and Few-Shot Learning参考文献 41被引用数 53

ひとこと要約

CATは、似たタスクと異なるタスクの混合シーケンスを、異なるタスクの知識を保護すること、似たタスクからの知識を選択的に転移すること、タスクの類似性を自動的に検出することによって学習し、忘却の回避と単一ネットワーク内の前方/後方の知識転移を可能にします。

ABSTRACT

Existing research on continual learning of a sequence of tasks focused on dealing with catastrophic forgetting, where the tasks are assumed to be dissimilar and have little shared knowledge. Some work has also been done to transfer previously learned knowledge to the new task when the tasks are similar and have shared knowledge. To the best of our knowledge, no technique has been proposed to learn a sequence of mixed similar and dissimilar tasks that can deal with forgetting and also transfer knowledge forward and backward. This paper proposes such a technique to learn both types of tasks in the same network. For dissimilar tasks, the algorithm focuses on dealing with forgetting, and for similar tasks, the algorithm focuses on selectively transferring the knowledge learned from some similar previous tasks to improve the new task learning. Additionally, the algorithm automatically detects whether a new task is similar to any previous tasks. Empirical evaluation using sequences of mixed tasks demonstrates the effectiveness of the proposed model.

研究の動機と目的

• 混在するタスクのシーケンスにおいて、忘却と知識転移の双方を扱う継続的学習を推進する。
• 忘却を防ぐための共有知識ベースとタスク固有マスクを用いたTCLモデル（CAT）を提案する。
• 知識転送アテンション機構を介して、似たタスクからの選択的な前方知識転移を可能にする。
• 新しいタスクを学習する間、似た過去タスクを改善するための後方知識転送を許容する。
• 現在のタスクへ知識を転送できる以前のタスクを自動的に検出するために、タスクの類似性を自動検出する。

提案手法

• 学習された表現を保存するために、すべてのタスクで共有される知識ベース（KB）を導入する。
• 異なるタスクにとって重要なユニットを保護し、現在のタスクに有用なユニットを識別するために、タスクごとの2値マスク（タスクマスク）を学習する。
• スケーリングパラメータ s を用いたシグモイドベースの疑似ゲートを介して、タスクID埋め込みからタスクマスクを導出する。
• 似たタスクが存在する場合、前方転送のために、似たタスクからのマスクされた出力を選択的に結合する知識転送アテンション（KTA）を適用する。
• 現在のタスクのために、転移知識を用いて別個の f_KTA分類器を訓練し、前方転送を可能にするとともに、似た過去タスクへの後方更新を許容する。
• 並行して、転移モデルとノー転送ベースラインを比較して相似性検出の参照損失を訓練し、TSV（task similarity vector）を決定する。
• 転移モデル f_k→t と参照モデル f_∅ によってオンラインで類似性を検出し、転移が検証損失を改善する場合に k を t と同様と分類する。

実験結果

リサーチクエスチョン

• RQ1 1つのネットワークが、似たタスクと異なるタスクの混合シーケンスを学習し、異なるタスクの忘却を回避できるか？
• RQ2 似たタスクからの知識を選択的に転移して新しいタスクの学習を改善し、過去のタスクを改善するための後方転送も許容できるか？
• RQ3 システムはタスクの類似性を自動的に検出して、適切な転移と保護機構を発動できるか？
• RQ4 提案されたCATアーキテクチャは、混合タスクシーケンスでベースラインを上回り、その構成要素のアブレーションで寄与が示されるか？

主な発見

• CATは、似たタスクと異なるタスクの混在シーケンスで、強力なTCLのベースラインを一貫して上回る。
• 前方知識転移は、似たタスクに対して非常に効果的である。
• 新しいタスクを学習した後、いくつかの似たタスクをさらに改善する後方知識転移が可能。
• 知識マスクは、異なるタスクの忘却を効果的に防ぎつつ、転移の余地を残す。
• タスク類似性検出（TSV）と知識転移アテンション（KTA）は不可欠であり、アブレーションは性能を低下させる。
• CATは、2層全結合ネットワークとCNNベースのアーキテクチャという2種類のデータセットでロバスト性を示す。