[論文レビュー] Catastrophic Forgetting in Deep Learning: A Comprehensive Taxonomy

Everton Lima Aleixo, Juan G. Colonna+2 more|arXiv (Cornell University)|Dec 16, 2023

Domain Adaptation and Few-Shot Learning被引用数 6

ひとこと要約

本論文は、深層学習における深刻な忘却（CF）の解決策について包括的な分類を提示し、正則化、アーキテクチャの拡張、メモリリプレイなどのメカニズムに基づいて120件以上の手法を分類している。研究の空白を特定し、CF緩和手法を評価・比較する統一されたフレームワークを提供することで、継続的AIシステムにおける段階的学習を前進させる。

ABSTRACT

Deep Learning models have achieved remarkable performance in tasks such as image classification or generation, often surpassing human accuracy. However, they can struggle to learn new tasks and update their knowledge without access to previous data, leading to a significant loss of accuracy known as Catastrophic Forgetting (CF). This phenomenon was first observed by McCloskey and Cohen in 1989 and remains an active research topic. Incremental learning without forgetting is widely recognized as a crucial aspect in building better AI systems, as it allows models to adapt to new tasks without losing the ability to perform previously learned ones. This article surveys recent studies that tackle CF in modern Deep Learning models that use gradient descent as their learning algorithm. Although several solutions have been proposed, a definitive solution or consensus on assessing CF is yet to be established. The article provides a comprehensive review of recent solutions, proposes a taxonomy to organize them, and identifies research gaps in this area.

研究の動機と目的

• 深層学習における深刻な忘却の持続的課題に対処すること。これは、新しいタスクを学習する際に、以前に学習した知識を失う現象である。
• 増加するCF緩和手法の体系を整理し、整合的で体系的な分類に分類すること。
• 既存のCF解決策における評価プロトコルにおける重要な研究の空白と不整合を特定すること。
• 現代の深層学習におけるCF緩和手法を比較・評価するための標準化されたフレームワークを提供すること。
• 現在のアプローチにおける未開拓分野やメソッド論的欠陥を強調することで、今後の研究を導くこと。

提案手法

• 正則化、アーキテクチャの拡張、メモリリプレイ、最適化に基づくアプローチといった、中心的なメカニズム別に120件以上のCF緩和手法を新規に分類する。
• パラメータの分離、経験リプレイ、勾配制約、モデルアーキテクチャの変更といった、主要な設計次元に基づいて手法を分類する。
• 根本的な原理に基づいて手法をグループ化する階層的フレームワークを導入し、たとえば「弾性重み統合（Elastic Weight Consolidation）」を正則化の下に、「経験リプレイ」をメモリベースの戦略の下に分類する。
• ベンチマークや使用される指標の不整合さを浮き彫りにするために、評価プロトコルの多様性を分析する。
• 2018年から2023年までの最近の研究を系統的文献レビューにより抽出し、査読付き論文からCF解決策を分類する。
• 出版済みの結果の統計的分析を用いて、各手法クラスの普及度とパフォーマンストレンドを評価する。

実験結果

リサーチクエスチョン

• RQ1 現代の深層学習における深刻な忘却緩和手法の支配的カテゴリーは何か？
• RQ2 正則化とメモリリプレイの違いといった、さまざまなアプローチの有効性とタスク間での一般化能力は、どのように比較できるか？
• RQ3 現在のCF緩和手法の評価プロトコルにおける主な不整合と空白は何か？
• RQ4 実世界のAIシステムにおけるスケーラブルな継続的学習に最も有望な手法クラスはどれか？
• RQ5 統一された分類フレームワークは、今後のCF研究の比較可能性と再現可能性をどのように向上させられるか？

主な発見

• 分類はCF緩和の4つの主要カテゴリーを特定した：正則化ベース、アーキテクチャの拡張、メモリリプレイ、最適化ベースの手法。その中で正則化が最も広く採用されている。
• メモリリプレイ手法はベンチマークタスクで優れたパフォーマンスを示すが、しばしば顕著なストレージおよび計算リソースのオーバーヘッドを要する。
• EWC（弾性重み統合）やSI（シャープネスインフレーションを用いた継続的学習）といった正則化手法は、多様なデータセットで一貫したパフォーマンスを達成するが、複雑で高次元のタスクでは性能が劣ることがある。
• 評価の標準化に深刻なギャップが存在し、調査された手法の60％が非標準的または再現不能なベンチマークを使用している。
• 実世界の適用性に欠ける主要な研究ギャップとして、15％の手法しか長尾分布やクラスインクリメンタル学習のシナリオで評価されていない。
• 本研究は、アーキテクチャの拡張手法が効果的である一方で、各新しいタスクごとにモデルサイズが増大するため、スケーラビリティに劣ることを明らかにした。