[論文レビュー] Variational Prototype Replays for Continual Learning

Mengmi Zhang, Tao Wang+3 more|arXiv (Cornell University)|May 23, 2019

Domain Adaptation and Few-Shot Learning参考文献 38被引用数 12

ひとこと要約

本稿では、変動的プロトタイプ（潜在空間内の平均と分散をもつ分布として学習される）を用いた継続的学習手法、Variational Prototype Replaysを提案する。過去のタスクからの1クラスあたり1つの代表的サンプルを再び供給し、新しい埋め込みを最も近いプロトタイプ分布に一致させることで、極めて少ないメモリ使用量で強力な記憶保持と一般化性能を達成する。MNIST、CIFAR10、miniImageNetの3つのデータセットにおいて、少数ショット継続的学習設定下で最先端の手法を上回る性能を発揮する。

ABSTRACT

Continual learning refers to the ability to acquire and transfer knowledge without catastrophically forgetting what was previously learned. In this work, we consider \emph{few-shot} continual learning in classification tasks, and we propose a novel method, Variational Prototype Replays, that efficiently consolidates and recalls previous knowledge to avoid catastrophic forgetting. In each classification task, our method learns a set of variational prototypes with their means and variances, where embedding of the samples from the same class can be represented in a prototypical distribution and class-representative prototypes are separated apart. To alleviate catastrophic forgetting, our method replays one sample per class from previous tasks, and correspondingly matches newly predicted embeddings to their nearest class-representative prototypes stored from previous tasks. Compared with recent continual learning approaches, our method can readily adapt to new tasks with more classes without requiring the addition of new units. Furthermore, our method is more memory efficient since only class-representative prototypes with their means and variances, as well as only one sample per class from previous tasks need to be stored. Without tampering with the performance on initial tasks, our method learns novel concepts given a few training examples of each class in new tasks.

研究の動機と目的

• 少数ショット、インクリメンタルクラスおよびドメイン設定下における継続的学習における記憶の消失問題を解決すること。
• フルモデル重みや大規模な生成モデルではなく、1クラスあたり1つのサンプルとクラス代表の変動的プロトタイプを格納することで、メモリ使用量を最小限に抑えること。
• 学習された平均と分散をもつ確率的分布としてのクラス表現をモデル化することで、一般化性能と記憶保持性能を向上させること。
• アーキテクチャの変更や新しいネットワークユニットの追加なしに、少数の例での新しいタスクへの効率的適応を可能にすること。
• 正則化法や生成的再現法の代替として、スケーラブルでパラメータ効率の良い継続的学習の代替手法を提供すること。

提案手法

• 各クラスに対して、潜在空間内に分布として表現される変動的プロトタイプを学習し、その平均と分散でパrameter化することで、クラスレベルの特徴を表現する。
• 新しいタスクの各クラスに対して、モデルは埋め込みを予測し、格納済みの変動的分布から最も近いプロトタイプを用いて分類する。
• 忘却を防ぐために、過去のタスクからの1クラスあたり1つのサンプルを再び供給し、新たに予測された変動的プロトタイプ分布を格納済みのプロトタイプ分布に一致させるように回帰する。
• 変動的プロトタイプの分散は、信頼性の指標として機能し、新しいタスク学習時に、代表が不十分なまたは信頼性の低い特徴を部分的に忘れることを可能にする。
• 各変動的プロトタイプからの複数のモンテカルロサンプルを用いた最近傍プロトタイプ分類戦略を採用することで、ロバストネスを向上させる。
• 分類損失と、予測されたプロトタイプ分布と格納済みプロトタイプ分布の一致を促進するプロトタイプ再現損失を組み合わせて、エンドツーエンドでモデルを訓練する。

実験結果

リサーチクエスチョン

• RQ1 学習された平均と分散をもつ変動的プロトタイプとしてのクラス表現をモデル化することで、継続的学習における記憶保持性能が向上するか？
• RQ2 単一の点プロトタイプと比較して、確率的プロトタイプを用いることで、記憶の消失がどれほど効果的に防止されるか？
• RQ3 過去のタスクからの1クラスあたり1つのサンプルを再び供給し、プロトタイプマッチングを組み合わせることで、旧タスクの性能を維持しつつ、新タスクへの適応が可能か？
• RQ4 プロトタイプの平均の動的変化は、タスクを経てどのように変化するか？また、それらの変化と視覚的特徴の類似性の関係は？
• RQ5 アーキテクチャの変更やパラメータ正則化なしに、少数のトレーニング例での新クラスへの一般化が可能か？

主な発見

• MNIST、CIFAR10、miniImageNetの3つのデータセットにおいて、インクリメンタルクラスおよびドメインプロトコル下で、最先端の手法を上回る顕著な性能向上を達成し、記憶保持性能が向上した。
• 分散重み付き距離を一様重みに置き換えると、平均精度が1.2%低下し、不確実性を考慮したプロトタイプマッチングの重要性が示された。
• プロトタイプを逆順（最新から先）に再び供給すると1%の性能低下が生じ、最も最近のプロトタイプのみを再び供給するとさらに0.3%の低下が生じ、古いタスクの知識が安定性に不可欠であることが示された。
• 代表が不十分な特徴の忘却は、分散成分のおかげで軽減される。平均や分散のいずれかのみをマッチングする手法は、両方を用いる手法に比べて顕著に性能が劣る。
• 潜在次元を100から1000に増加させると精度が0.7%向上するが、10に減少させると性能が低下し、表現能力への感受性が示された。
• タスクを経てプロトタイプ平均の軌道が視覚的特徴類似度と相関している（r = 0.44）ことから、クラス分離性を保持するトポロジカルに整った潜在空間が、本手法によって構築されていることが示唆された。