[論文レビュー] A Strategy for an Uncompromising Incremental Learner

Ragav Venkatesan, Hemanth Venkateswara+2 more|arXiv (Cornell University)|May 2, 2017

Domain Adaptation and Few-Shot Learning参考文献 29被引用数 41

ひとこと要約

本論文は、『フォビーレサンプリング』——生成モデルと知識蒸留を用いて正しくラベル付けされた合成データを生成する手法——を用いたきびしい制約のもとでの妥協のない段階的学習の厳密な戦略を提案する。このアプローチにより、深層ニューラルネットワークは過去のデータにアクセスせずに新しいクラスを学習でき、ベンチマークデータセットにおいてきびしい段階的学習の制約下で最先端の性能を達成する。

ABSTRACT

Multi-class supervised learning systems require the knowledge of the entire range of labels they predict. Often when learnt incrementally, they suffer from catastrophic forgetting. To avoid this, generous leeways have to be made to the philosophy of incremental learning that either forces a part of the machine to not learn, or to retrain the machine again with a selection of the historic data. While these hacks work to various degrees, they do not adhere to the spirit of incremental learning. In this article, we redefine incremental learning with stringent conditions that do not allow for any undesirable relaxations and assumptions. We design a strategy involving generative models and the distillation of dark knowledge as a means of hallucinating data along with appropriate targets from past distributions. We call this technique, phantom sampling.We show that phantom sampling helps avoid catastrophic forgetting during incremental learning. Using an implementation based on deep neural networks, we demonstrate that phantom sampling dramatically avoids catastrophic forgetting. We apply these strategies to competitive multi-class incremental learning of deep neural networks. Using various benchmark datasets and through our strategy, we demonstrate that strict incremental learning could be achieved. We further put our strategy to test on challenging cases, including cross-domain increments and incrementing on a novel label space. We also propose a trivial extension to unbounded-continual learning and identify potential for future development.

研究の動機と目的

• 過去のデータへのアクセスや再訓練を禁止するきびしい制約のもとで段階的学習を再定義すること。
• コア仮定を緩めることなく、多クラス段階的学習における危険な忘却を解決すること。
• 別々のドメイン間でさえ、以前に学習したクラスの性能を維持しながら新しいクラスを学習できること。
• 複数回の増分を含む制限付き継続的学習にこの戦略を拡張すること。
• 特にドメイン間の増分や新規ラベル空間を含む困難な条件下でも有効性を示すこと。

提案手法

• 訓練済みの生成モデル（GAN）を用いて、過去のクラスから合成データを生成する『フォビーレサンプリング』を導入する。
• 知識蒸留を用いて、合成サンプルのためのソフトラベルを生成し、正しいクラス分布が保持されることを保証する。
• 実際の新規データと、蒸留されたターゲットを持つ合成フォビーデータの組み合わせを用いて、段階的分類器を訓練する。
• 元の学習データにアクセスしないように、フォビーラベル付けのためのベースネットワークのコピーを維持する。
• 各以前の増分に対してGANとフォビーサンプラーを維持することで、制限付き継続的学習への拡張を実現する。
• 一方で、すべての過去の分布に適応する1つのGANを継続的に更新することで、スケーラブルな永続的学習への道筋を提示するが、これはまだ探求的である。

実験結果

リサーチクエスチョン

• RQ1 過去のデータへのアクセスや再訓練なしに、危険な忘却を効果的に軽減できるか？
• RQ2 きびしいデータ膜制約とドメインに依存しない制約のもとで、新しいクラスを学習しながら、以前に学習したクラスの高精度を維持できるか？
• RQ3 フォビーレサンプリングは、MNISTからSVHNへのような別々のドメイン間でも一般化可能か？
• RQ4 制限付き継続的学習における複数回の増分に、この手法はどの程度スケーリング可能か？
• RQ5 この戦略を無制限継続的（永続的）学習に拡張する可能性は何か？

主な発見

• 提案されたフォビーレサンプリング戦略により、危険な忘却が顕著に軽減され、過去のデータにアクセスせずに新しいクラスで強力な性能が達成された。
• MNISTからSVHNへのドメイン間増分において、ベースライン手法と比較して20%の性能向上を達成した。
• MNISTとSVHNにおける3回の増分を含む制限付き継続的学習において、すべてのクラスで高い精度を維持し、初期の増分からの混同は最小限に抑えられた。
• 新規ラベル空間における学習においても、元のラベル分布を超えた一般化を示した。
• 複数回の増分を経ても、継続的学習の状況でほぼ最先端の精度を達成した。
• 1つの継続的に更新されるGANを用いることで、永続的学習への拡張は原理的に可能であるが、これは今後の研究の未解決な方向性のままである。