[論文レビュー] Does Continual Learning = Catastrophic Forgetting?

Anh Thai, Stefan Stojanov+2 more|arXiv (Cornell University)|Jan 18, 2021

Domain Adaptation and Few-Shot Learning参考文献 67被引用数 4

ひとこと要約

本稿は、継続的学習が本質的に深刻な忘却を引き起こすという仮定に挑戦し、特定のタスクが段階的に学習された場合に忘却を被らないことを示している。YASSと呼ばれる単純だが効果的なアルゴリズムを導入し、クラス増分学習において最先端の性能を達成しており、継続的表現学習の利点や忘却ダイナミクスに関する一貫した証拠を提示している。

ABSTRACT

Continual learning is known for suffering from catastrophic forgetting, a phenomenon where earlier learned concepts are forgotten at the expense of more recent samples. In this work, we challenge the assumption that continual learning is inevitably associated with catastrophic forgetting by presenting a set of tasks that surprisingly do not suffer from catastrophic forgetting when learned continually. The robustness of these tasks leads to the potential of having a proxy representation learning task for continual classification. We further introduce a novel yet simple algorithm, YASS that achieves state-of-the-art performance in the class-incremental categorization learning task and provide an insight into the benefit of learning the representation continuously. Finally, we present converging evidence on the forgetting dynamics of representation learning in continual models. The codebase, dataset, and pre-trained models released with this article can be found at this https URL.

研究の動機と目的

• 継続的学習が必然的に深刻な忘却を引き起こすという広く受け入れられている信念に挑戦すること。
• 継続的学習中に忘却を被らないタスクを特定・分析すること。
• クラス増分学習において最先端の性能を達成する新しいアルゴリズムYASSを開発すること。
• 継続的学習シナリオにおける継続的表現学習の利点についての洞察を提供すること。
• 継続的表現学習モデルにおける忘却ダイナミクスに関する一貫した証拠を提示すること。

提案手法

• 著者らは、表現学習の代理として、継続的学習中に深刻な忘却に強く耐性を示すタスクのセットを設計した。
• 彼らは、段階的タスク学習中に特徴を継続的に更新することで表現学習を強化する単純なアルゴリズムYASSを導入した。
• YASSはメモリリプレイ機構と特徴 distillation を活用して、過去のタスクからの知識を保持する。
• 本手法は、クラス増分分類ベンチマーク上で評価され、従来のアプローチと比較して優れた性能を示した。
• 著者らは収束解析と時間経過に伴う表現の変化の可視化を用いて、忘却ダイナミクスを分析した。
• 再現可能性および今後の研究を支援するため、公開のコードベース、データセット、事前学習済みモデルをリリースした。

実験結果

リサーチクエスチョン

• RQ1 特定のタスク設定では、継続的学習において深刻な忘却が避けられるか？
• RQ2 どのようなタスクの特徴が、継続的学習中に忘却に対して耐性を持つのか？
• RQ3 継続的表現学習は、増分学習におけるモデル性能にどのように影響するか？
• RQ4 継続的表現学習モデルにおける忘却ダイナミクスは何か？
• RQ5 YASSのような単純なアルゴリズムが、クラス増分学習において最先端の性能を達成できるか？

主な発見

• 著者らは、継続的に学習された場合に深刻な忘却を被らない特定のタスクを同定し、忘却が避けられないという仮定に反する結果を得た。
• YASSは、クラス増分分類学習において最先端の性能を達成し、既存の手法を上回った。
• 結果から、継続的表現学習が増分設定におけるモデルの頑健性と一般化性能を顕著に向上させることを示した。
• 複数の解析からの一貫した証拠が、継続的学習モデルにおける忘却ダイナミクスに一貫したパターンが存在することを明らかにした。
• リリースされたコードベース、データセット、事前学習済みモデルは、今後の継続的学習分野の研究にとって貴重なリソースを提供している。