[論文レビュー] Pseudo-Recursal: Solving the Catastrophic Forgetting Problem in Deep Neural Networks

Craig Atkinson, Brendan McCane+2 more|arXiv (Cornell University)|Feb 12, 2018

Domain Adaptation and Few-Shot Learning参考文献 13被引用数 54

ひとこと要約

本論文は pseudo-recursal を導入し、GAN 生成の pseudo-items と pseudo-rehearsal を組み合わせることで、タスク固有のメモリ成長を伴わずに CIFAR-10、SVHN、MNIST に跨る深層ネットワークの継続学習における忘却を著しく低減します。

ABSTRACT

In general, neural networks are not currently capable of learning tasks in a sequential fashion. When a novel, unrelated task is learnt by a neural network, it substantially forgets how to solve previously learnt tasks. One of the original solutions to this problem is pseudo-rehearsal, which involves learning the new task while rehearsing generated items representative of the previous task/s. This is very effective for simple tasks. However, pseudo-rehearsal has not yet been successfully applied to very complex tasks because in these tasks it is difficult to generate representative items. We accomplish pseudo-rehearsal by using a Generative Adversarial Network to generate items so that our deep network can learn to sequentially classify the CIFAR-10, SVHN and MNIST datasets. After training on all tasks, our network loses only 1.67% absolute accuracy on CIFAR-10 and gains 0.24% absolute accuracy on SVHN. Our model's performance is a substantial improvement compared to the current state of the art solution.

研究の動機と目的

• DNN のシーケンシャルタスク学習における壊滅的忘却へ対処する。
• タスクごとに増えないメモリ効率の良い継続学習アプローチを提案する。
• 再演習のための代表的な pseudo-items を生成するために Generative Adversarial Networks を活用する。
• 分類器と生成器の両方に対して再帰的な pseudo-rehearsal（pseudo-recursal）を適用する。
• 画像データセット上で Elastic Weight Consolidation と標準の pseudo-rehearsal を比較する。

提案手法

• 固定アーキテクチャを前提としたシーケンシャルタスクのための pseudo-rehearsal を形式化する。
• 再演習を表す過去のタスクを表す pseudo-images を生成する GAN を使用する。
• 追加のタスクごとのメモリを要さずに複数タスクをカバーするよう GAN に対して pseudo-rehearsal を再帰的に適用する。
• 現在のタスクと過去のタスクを表す pseudo-items を用いて分類器と GAN を訓練する。
• CIFAR-10、SVHN、MNIST を用いた複数の実験条件（std, reh, pseudo_rec, ewc, ewc_c10, rote_learn）で評価する。
• 新しいタスクを学習した後の過去タスクに対する正確さの維持を測定し、絶対的な正確さの変化を報告する。

実験結果

リサーチクエスチョン

• RQ1 GAN 生成の pseudo-images を用いた pseudo-rehearsal は、メモリをタスクごとに増やすことなく CIFAR-10、SVHN、MNIST で壊滅的忘却を防げるか。
• RQ2 分類器と GAN の両方に再帰的に pseudo-rehearsal を適用することは、標準の pseudo-rehearsal や EWC より保持を改善するか。
• RQ3 逐次学習後の以前のタスクの性能を保持する点で、pseudo-recursal はベースラインと比較してどうであるか。
• RQ4 GAN ベースの pseudo-rehearsal アプローチを使用する際の訓練時間とメモリのトレードオフはどのようになるか。

主な発見

• この方法は、すべてのタスクを学習した後の CIFAR-10 の正確度を絶対値で 1.67% の低下に抑えて保持する。
• SVHN の正確度は、後続タスクの学習後に絶対値で 0.24% 増加する。
• pseudo-recursal は CIFAR-10 および SVHN における prior タスクの性能保持で EWC を上回る。
• rote learning のベースラインと比較して、pseudo-recursal は過去タスクの正確度を大幅に維持する（例：CIFAR-10 および SVHN でそれぞれ 9.6% ～ 13.11% の利得）。
• 過去のタスクへ代表的な pseudo-items を生成するには、過去タスクに対する再帰的訓練が可能で、タスクごとに追加のメモリを必要としない。
• このアプローチは、中間ニューロンのハード制約や過去タスクデータの保存なしに効果的な継続学習を示す。