[論文レビュー] Few-Shot Class-Incremental Learning

Xiaoyu Tao, Xiaopeng Hong+4 more|arXiv (Cornell University)|Apr 23, 2020

Domain Adaptation and Few-Shot Learning参考文献 46被引用数 16

ひとこと要約

本論文は、特徴マニフォールドのトポロジーを保持するためのニューラルガス（NG）ネットワークを用いる、少数ショットクラスインクリメンタル学習（FSCIL）フレームワークであるTOPICを提案する。これにより、崩壊的忘却の軽減と、少数ショット新クラスにおける表現学習の向上が図られる。本手法は、安定性を高めるアンカーロスと、特徴空間の適応的拡大を実現するミニマックスロスを組み合わせることで、CIFAR100、miniImageNet、CUB200で最小限のメモリオーバーヘッドで最先端の性能を達成する。

ABSTRACT

The ability to incrementally learn new classes is crucial to the development of real-world artificial intelligence systems. In this paper, we focus on a challenging but practical few-shot class-incremental learning (FSCIL) problem. FSCIL requires CNN models to incrementally learn new classes from very few labelled samples, without forgetting the previously learned ones. To address this problem, we represent the knowledge using a neural gas (NG) network, which can learn and preserve the topology of the feature manifold formed by different classes. On this basis, we propose the TOpology-Preserving knowledge InCrementer (TOPIC) framework. TOPIC mitigates the forgetting of the old classes by stabilizing NG's topology and improves the representation learning for few-shot new classes by growing and adapting NG to new training samples. Comprehensive experimental results demonstrate that our proposed method significantly outperforms other state-of-the-art class-incremental learning methods on CIFAR100, miniImageNet, and CUB200 datasets.

研究の動機と目的

• 非常に少ないラベル付き例からの新クラスの学習を可能にしつつ、以前に学習したクラスを忘れないようにする、少数ショットクラスインクリメンタル学習（FSCIL）の課題に対処すること。
• 知識蒸留法がFSCILにおいて直面するクラス不均衡問題と、旧クラスと新クラスの性能トレードオフの制限を克服すること。
• 学習済み特徴の安定化と、少数ショットクラスにおける一般化性能の向上を実現する、トポロジーを保存する知識表現メカニズムの開発。
• 最小限のメモリオーバーヘッドで、スケーラブルかつ効率的なフレームワークの設計。これにより、複数のインクリメンタル学習セッションにおいても高い精度を維持できる。

提案手法

• フレームワークは、CNN埋め込み空間内の特徴マニフォールドのトポロジカル構造をモデル化するため、ニューラルガス（NG）ネットワークを用いる。知識は、適応的ノードの集合として表現される。
• アンカーロス（AL）項により、NGトポロジーが安定化され、旧クラス特徴の相対的な空間的関係が保持される。これにより、崩壊的忘却が軽減される。
• ミニマックスロス（MML）項により、表現学習が向上する。具体的には、新クラスのサンプルが正しいNGノードに近づくように促され、異なるクラスのノード同士が引き離される。
• 各学習セッションにおいて、新しいクラス特徴に適応するため、NGネットワークが段階的にノードを追加することで成長する。
• NGベースの知識表現と標準的なCNNバックボーンを統合し、分類とトポロジー保存の目的関数を共同で最適化可能なエンドツーエンド学習を実現する。
• タスクIDやエグジンプリュールの保存に依存せず、代わりに動的でトポロジーに敏感なメモリ構造としてNGノードを用いる。

実験結果

リサーチクエスチョン

• RQ1 トポロジーを保存する知識表現メカニズムは、少数ショットクラスインクリメンタル学習における崩壊的忘却を効果的に軽減できるか？
• RQ2 従来のエグジンプリュールベースの知識蒸留法と比較して、ニューラルガスベースの特徴表現は、精度とメモリ効率の面でどのように異なるか？
• RQ3 ミニマックスロスは、旧クラスの性能を維持しつつ、少数ショット新クラスの表現学習をどの程度向上させるか？
• RQ4 提案されたフレームワークは、少数ショット設定を超えて一般化可能か。すなわち、フルショットの訓練データでも良好な性能を発揮するか？
• RQ5 アンカーロスとミニマックスロスの相対的寄与度は、FSCIL全体の性能にどの程度寄与しているか？

主な発見

• TOPICは、CIFAR100、miniImageNet、CUB200で最先端のCIL手法を上回り、アンカーロスとミニマックスロスを併用した場合、最大で5.85%の高い精度を達成する。
• 特徴再重み付けを含むアンカーロス（AL）は、再重み付け行列Λを含まない簡略化されたバージョンよりも1.49%高い精度を達成する。
• ミニマックスロス（MML）は、ALオンリーベースライン設定に対して最大5.85%の性能向上を示し、少数ショット表現学習の向上効果が明確に裏付けられる。
• NGノードによる知識表現は、エグジンプリュールベースのアプローチを一貫して上回り、特に低メモリ予算下では顕著な精度差が観察される。
• 知識蒸留損失のみを用いる場合、FSCILでは性能が低下することが示され、非常に少ない新サンプルを用いた旧・新クラスのバランスを取る際、知識蒸留法の有効性が低いことが判明する。
• 混同行列から、TOPICはすべてのクラスで高い分類精度を維持しており、活性化が対角線に集中していることから、忘却や過学習が最小限に抑えられていることが示される。