[論文レビュー] Overcoming Catastrophic Forgetting by Generative Regularization

Patrick H. Chen, Wei Wei+2 more|arXiv (Cornell University)|Dec 3, 2019

Domain Adaptation and Few-Shot Learning参考文献 40被引用数 4

ひとこと要約

本稿では、バニラ・ジェネラティブ正則化（BGR）を提案する。BGRは、記憶を必要としない連続的学習手法であり、変分ベイズ推論とエネルギーに基づく生成モデルを組み合わせることで、深刻な忘却を軽減する。エネルギーに基づくモデルにおける対照的損失を用いて多様な特徴の学習を促進することで、事後分布の近似を改善し、最先端の性能を達成する。Fashion-MNISTでは前人最高の手法を15%上回り、CUBでは10%上回る。

ABSTRACT

In this paper, we propose a new method to overcome catastrophic forgetting by adding generative regularization to Bayesian inference framework. Bayesian method provides a general framework for continual learning. We could further construct a generative regularization term for all given classification models by leveraging energy-based models and Langevin-dynamic sampling to enrich the features learned in each task. By combining discriminative and generative loss together, we empirically show that the proposed method outperforms state-of-the-art methods on a variety of tasks, avoiding catastrophic forgetting in continual learning. In particular, the proposed method outperforms baseline methods over 15% on the Fashion-MNIST dataset and 10% on the CUB dataset

研究の動機と目的

• 過去のデータに再アクセスできない記憶なし・固定モデル設定下での連続的学習における深刻な忘却の問題を解決すること。
• 平均場変分推論が、連続的学習におけるベイズ的手法において、タスク間で多様で安定した特徴を維持できないという限界を特定すること。
• 生成正則化を用いて、十分で包括的な特徴表現を強制することで、ベイジアンニューラルネットワークにおける事後分布近似を改善すること。
• 過去データの保存やモデルサイズの拡大なしに、プライバシー規制（例：GDPR）に整合した堅牢な連続的学習を可能にすること。
• 生成モデル化が特徴の多様性と安定性を向上させ、段階的タスク学習における忘却を軽減することを実証すること。

提案手法

• エネルギーに基づくモデル（EBM）を用いて判別学習と暗黙的生成モデル化を統合するベイジアン生成正則化（BGR）フレームワークを導入する。
• ラングヴィン動的サンプリングを用いて生成損失を近似し、入力データのあらゆる部分で多様な特徴を学習可能にする。
• EBMにおける対照的損失を組み込み、モデルが入力データを正確に再構成するよう促進し、包括的な特徴学習を推進する。
• 生成正則化項を変分推論の目的関数に統合し、安定的かつ多様な事後分布近似を保証する。
• 連続的学習の全過程で固定されたモデルアーキテクチャを維持し、パラメータの拡張やデータリプレイを回避する。
• 生成能力を活用して、特徴が判別的領域に集中しているのではなく、入力構造全体に広がっていることを検証する。

実験結果

リサーチクエスチョン

• RQ1 なぜ、バニッシュ・ベイジアン連続的学習における平均場変分推論は、ストリーミング更新の性質にもかかわらず、深刻な忘却を防げないのか？
• RQ2 生成モデル化は、連続的学習におけるベイジアンニューラルネットワークの事後分布近似の質を向上させ得るか？
• RQ3 生成正則化による包括的特徴学習を強制することで、段階的タスク学習における忘却が軽減されるか？
• RQ4 本手法は、最先端の記憶なしおよび記憶ありの連続的学習手法と比較して、精度と安定性の面で優れているか？
• RQ5 生成正則化は、既存の記憶あり手法と効果的に組み合わせられ、さらなる性能向上をもたらすか？

主な発見

• 提案されたBGR手法は、生成正則化による多様な特徴学習を促進することで、入力のストローク全体に均等に分布する顕著な特徴を示すことで、深刻な忘却を軽減している。
• Fashion-MNISTデータセットでは、BGRは最先端手法を15%上回る精度を達成し、連続的学習における強力な性能を示している。
• CUBデータセットでは、BGRはベースライン手法に対して10%の精度向上を達成し、微細分類タスクにおける有効性を強調している。
• 統合勾配を用いた定性的分析では、BGRモデルは数字のストローク全体にわたり顕著な特徴を均等に分布させているのに対し、標準的なSGDモデルは孤立した判別的領域に特徴を集中させている。
• 新しいタスクを学習した後の精度低下は、BGRを用いることで著しく減少し、54.2%から95.0%に改善された。これは、過去の知識の保持が優れていることを示している。
• BGRは、記憶あり手法（例：iTAML）と効果的に組み合わせられ、split-MNISTで97.8%から98.4%に性能向上を達成しており、広範な互換性と向上可能性を示している。