[論文レビュー] Rotate your Networks: Better Weight Consolidation and Less Catastrophic Forgetting

Xialei Liu, Marc Masana+4 more|arXiv (Cornell University)|Feb 8, 2018

Domain Adaptation and Few-Shot Learning参考文献 21被引用数 35

ひとこと要約

本稿では、Elastic Weight Consolidation (EWC) を改善する R-EWC を提案する。R-EWC は、ニューラルネットワークのパラメータ空間を回転させることでフィッシャー情報行列（FIM）を近似的に対角化し、順次学習における深刻な忘却を軽減する。本手法は、例示データを用いないまま、標準的な EWC や最先端の手法よりも顕著に優れた継続的学習性能を達成する。

ABSTRACT

In this paper we propose an approach to avoiding catastrophic forgetting in sequential task learning scenarios. Our technique is based on a network reparameterization that approximately diagonalizes the Fisher Information Matrix of the network parameters. This reparameterization takes the form of a factorized rotation of parameter space which, when used in conjunction with Elastic Weight Consolidation (which assumes a diagonal Fisher Information Matrix), leads to significantly better performance on lifelong learning of sequential tasks. Experimental results on the MNIST, CIFAR-100, CUB-200 and Stanford-40 datasets demonstrate that we significantly improve the results of standard elastic weight consolidation, and that we obtain competitive results when compared to other state-of-the-art in lifelong learning without forgetting.

研究の動機と目的

• 順次タスク学習において、新しいタスクに学習を進めると以前に学習したタスクを忘れるという深刻な忘却問題に対処すること。
• EWC が対角フィッシャー情報行列（FIM）を仮定しているが、実際にはこの条件を満たさないことが多いため、その制限を克服すること。
• 回転によってネットワークのパラメータ空間を再パrameter化し、FIM をより対角に近づけることで、EWC の重み統合を改善すること。
• 以前のタスクの例示データを保存しないまま、より優れた継続的学習性能を達成すること。
• ネットワークアーキテクチャと推論を維持したまま、最適なパラメータ空間回転を近似できる実用的でトレーニング可能な手法を開発すること。

提案手法

• 本手法は、中間特徴表現に学習された回転を適用することで、ネットワークを再パラメータ化し、間接的にパラメータ空間を回転させる。
• この回転は、トレーニング可能なパラメータ数を増加させない固定重み付きの畳み込み層および全結合層によって実装される。
• 回転により、FIM の主成分が座標軸と一致し、対角近似の精度が向上する。
• 変換による性能低下がないように、元のネットワークと同一の順方向伝搬出力を維持する。
• その後、FIM がより対角に近くなる回転されたパラメータ空間で EWC を適用し、より良い正則化が得られる。
• 回転は標準的なバックプロパゲーションを用いてエンドツーエンドで学習され、収束後に回転層の重みは固定される。

実験結果

リサーチクエスチョン

• RQ1 ネットワークのパラメータ空間の再パラメータ化により、EWC におけるフィッシャー情報行列の対角近似が向上するか？
• RQ2 回転されたパラメータ空間は、順次学習におけるより良い重み統合と深刻な忘却の軽減をもたらすか？
• RQ3 例示リプレイを用いない R-EWC は、標準的な EWC や他の最先端の継続的学習手法と比べてどのように性能を発揮するか？
• RQ4 トレーニング可能なパラメータ数を増加させずに、回転を効率的に実装できるか？
• RQ5 特にタスク数が増加する際も、本手法は複数の順次タスクにおいて性能を維持できるか？

主な発見

• R-EWC は、MNIST、CIFAR-100、CUB-200、Stanford-40 という全評価データセットで標準的な EWC より顕著に優れた性能を示し、時間の経過とともに性能差が拡大する。
• 4つのタスクを含む Stanford-40 Actions データセットでは、R-EWC は全過去タスクの平均精度が 37.2% に達したのに対し、標準的な EWC は 23.0% にとどまった。
• 4つのタスクを含む CIFAR-100 では、R-EWC は EWC より約 5 パcentage ポints 以上の平均精度を上回り、Learning Without Forgetting (LwF) よりも優れた性能を発揮した。
• 例示データを一切使用しないにもかかわらず、R-EWC は Upper Bound（全データが常に利用可能）と比較して競争力のある結果を達成した。
• 本手法は、すべての過去タスクにおける忘却を一貫して軽減し、特に忘却が最も深刻になる後続のタスクで最大の性能向上が得られた。
• 回転に基づく再パラメータ化により、FIM は効果的に対角化され、元のパラメータ空間よりも EWC の核心的仮定がより正確に満たされたことが裏付けられた。