[論文レビュー] On the Stability-Plasticity Dilemma of Class-Incremental Learning

Dongwan Kim, Bohyung Han|arXiv (Cornell University)|Apr 4, 2023

Domain Adaptation and Few-Shot Learning被引用数 5

ひとこと要約

この論文は、段階的学習における安定性と柔軟性のトレードオフを、段階的学習の各段階における特徴表現の分析を通じて調査する。多くのCIL手法が安定性を優先しており、初期学習以降の特徴表現の更新が最小限に抑えられていることが明らかになった。著者らは、特徴表現の分析に基づく2つの単純なアルゴリズムを提案し、継続的表現学習の改善の必要性を強調し、現在の評価指標の妥当性に疑問を呈する。

ABSTRACT

A primary goal of class-incremental learning is to strike a balance between stability and plasticity, where models should be both stable enough to retain knowledge learned from previously seen classes, and plastic enough to learn concepts from new classes. While previous works demonstrate strong performance on class-incremental benchmarks, it is not clear whether their success comes from the models being stable, plastic, or a mixture of both. This paper aims to shed light on how effectively recent class-incremental learning algorithms address the stability-plasticity trade-off. We establish analytical tools that measure the stability and plasticity of feature representations, and employ such tools to investigate models trained with various algorithms on large-scale class-incremental benchmarks. Surprisingly, we find that the majority of class-incremental learning algorithms heavily favor stability over plasticity, to the extent that the feature extractor of a model trained on the initial set of classes is no less effective than that of the final incremental model. Our observations not only inspire two simple algorithms that highlight the importance of feature representation analysis, but also suggest that class-incremental learning approaches, in general, should strive for better feature representation learning.

研究の動機と目的

• 現代のCILアルゴリズムが特徴表現において安定性と柔軟性をどの程度うまくバランスしているかを調査すること。
• CILベンチマークでの成功が安定性、柔軟性、あるいは両者の組み合わせによるものかどうかを特定すること。
• 現在の評価指標に内在する制限を暴露し、CIL研究における進展を誤解を招くものにしている可能性を示すこと。
• 特徴表現のダイナミクスを実証的に分析することで、より良いCIL手法の開発を促すこと。
• 固定または最小限に更新される特徴に依存するのではなく、より強固な継続的表現学習を推進すること。

提案手法

• 著者らは、特徴表現の分布シフトを可視化するためのCentered Kernel Alignment (CKA) と t-SNE を用いて、安定性を測定する分析ツールを設計した。
• 柔軟性は、各段階で分類器を再訓練し、更新された特徴表現に対する性能向上を測定することで評価した。
• B500-5step などの大規模ベンチマークで、さまざまなCILアルゴリズムで学習されたモデルの特徴抽出器の性能を、段階的学習の各段階で比較した。
• 初期データセットからの特徴抽出器を固定し、分類器のみを学習する「Exploit」手法を導入した。この手法は、特徴の適応なしでも、高い性能を示した。
• 段階的学習環境における特徴表現学習の改善を目的として、Dynamically Expandable Representations (DER) の修正版を提案した。
• タスクの類似度や事前学習設定を変化させたアブレーションスタディを実施し、主な発見の妥当性を検証した。

実験結果

リサーチクエスチョン

• RQ1 現代のCILアルゴリズムは、段階的学習の各段階で、どの程度特徴表現を更新しているか？
• RQ2 CIL手法の成功は、高い安定性、高い柔軟性、あるいは両者のバランスによるものか？
• RQ3 平均的インクリメンタル精度や最終精度といった現在の評価指標は、特徴学習における真の柔軟性と安定性をどの程度反映しているか？
• RQ4 固定された特徴抽出器を備えたモデルが、実際の応用で最先端のCIL手法を上回ることができるか？
• RQ5 どのアーキテクチャ的またはトレーニング戦略が、継続的表現学習における安定性と柔軟性のバランスをより良く実現できるか？

主な発見

• CILアルゴリズムの大多数は、最初のデータセットでの初期学習以降、特徴表現の更新がほとんどないほど柔軟性が低い。
• 初期クラスセットでのみ学習されたモデル（M₀）の特徴抽出器は、最終的な段階的学習モデル（M₅）と同等またはそれ以上の性能を示しており、特徴の適応が不十分であることが示唆された。
• 特徴抽出器を固定し、分類器のみを学習する「Exploit」手法は、平均的インクリメンタル精度および最終的な ImageNet 精度の両方で、SOTA CIL手法のうち1つを除き、すべてを上回った。
• 平均的インクリメンタル精度や最終精度といった現在の指標は、真の柔軟性を反映しておらず、CIL研究における進展を誤って示す誤った感覚を生み出している。
• 本研究は、柔軟性を軽視し、安定性に過剰に注力する構造的傾向を明らかにした。これは、多くのCIL手法が時間経過とともに新しい表現を意味的に学習していないことを示唆している。
• 研究結果は、現在の評価パラダイムが誤解を招く可能性があることを示しており、今後のCIL研究は、より強固で継続的に更新される特徴表現の学習を重視すべきであると示唆している。