[論文レビュー] Continual Classification Learning Using Generative Models

Frantzeska Lavda, Jason Ramapuram+2 more|arXiv (Cornell University)|Oct 24, 2018

Domain Adaptation and Few-Shot Learning参考文献 11被引用数 17

ひとこと要約

本論文では、変分自己オートエンコーダ（VAE）フレームワークを用いた学生・教師アーキテクチャを採用することで、過去のタスクから生成された合成データを用いて現在のタスクの学習を補強することにより、災難的忘却を防ぐ継続的分類学習手法を提案する。モデルは過去のデータやモデルを保存せずに、生成的・識別的学習を統合的に最適化でき、パーソナライズドMNISTおよびファッションMNISTベンチマークにおいて、順次タスク間で安定した性能を達成する。

ABSTRACT

Continual learning is the ability to sequentially learn over time by accommodating knowledge while retaining previously learned experiences. Neural networks can learn multiple tasks when trained on them jointly, but cannot maintain performance on previously learned tasks when tasks are presented one at a time. This problem is called catastrophic forgetting. In this work, we propose a classification model that learns continuously from sequentially observed tasks, while preventing catastrophic forgetting. We build on the lifelong generative capabilities of [10] and extend it to the classification setting by deriving a new variational bound on the joint log likelihood, $\log p(x; y)$.

研究の動機と目的

• 継続的学習における分類タスクの災難的忘却を解消すること。
• 過去のデータやタスク固有のモデルを保存せずに継続的学習を可能にすること。
• 順次学習環境下で、生成的再構成と識別的分類の両方を統合的に最適化すること。
• 生成的モデリングを活用して、過去のタスクの知識を保持する手法を開発すること。
• 過去の分布の簡便な要約のみを用いて、順次タスク間で安定した性能を達成すること。

提案手法

• 本手法は、入力 $x$ とラベル $y$ のための共同潜在変数モデルを用いた変分自己オートエンコーダ（VAE）を採用し、$p(x,y,z) = p(x|z)p(y|z)p(z)$ と因数分解する。
• 新しい $\log p(x,y)$ の変分バインドを導出し、再構成のためのELBOと潜在空間上の分類損失に分解する。
• 学生・教師の distillation フレームワークを採用：学生は現在のデータと、教師が要約する過去のタスク分布から生成されたデータを学習する。
• 損失関数には、過去のタスクの事後分布表現を保持するためのKLダイバージェンス項と、潜在表現を生成データと一致させるための負の情報ゲイン正則化項が含まれる。
• 教師による過去タスクのサンプル生成により、過去のデータやモデルを保存しなくてもよいことから、厳密なメモリ制約下での継続的学習が可能になる。
• ミニバッチ確率的勾配降下法を用いてエンドツーエンドで最適化し、早期停止を適用する。

実験結果

リサーチクエスチョン

• RQ1 生成的モデルを継続的分類学習に効果的に適応させ、災難的忘却を防ぐことができるか？
• RQ2 簡略化された教師モデルが、継続的学習において過去のデータやモデルを保存する必要をどれほど代替できるか？
• RQ3 再構成と分類損失の統合最適化が、順次タスクにおける性能にどのように影響するか？
• RQ4 提案手法は、忘却を伴わず、複数の順次タスクにおいて高い精度と低い再構成誤差を維持できるか？
• RQ5 VAEに分類器を追加した手法やEWCといったベースラインと比較して、忘却と精度保持の観点でどのように差がつくか？

主な発見

• 提案手法CCL-GMは、パーソナライズドMNIST実験において、複数の順次タスクを経ても全タスクで高い平均分類精度を維持する。
• 平均的な負の再構成ELBOが低く抑えられており、学習済み全タスクにおいて優れた生成的性能を示している。
• 一方、分類器を追加したヴァリエーションVAE（vae-cl）は、最初のパーソナライズドタスクに移行する際、著しい性能低下を示し、深刻な忘却を経験している。
• EWCベースラインは vae-cl よりも劣化が少ないが、依然として顕著な忘却を示しており、データ拡張なしの正則化の限界を浮き彫りにしている。
• MNIST、ファッションMNIST、およびパーソナライズドMNISTを含む3タスクのシーケンスにおいて、CCL-GMは両方のベースラインを上回る分類精度と再構成品質を達成する。
• 教師による過去タスクデータの生成により、災難的忘却を効果的に緩和し、過去のデータやモデルへのアクセス・保存が不要な状態で継続的学習を実現している。