[論文レビュー] Continual Learning in Generative Adversarial Nets

Ari Seff, Alex Beatson+2 more|arXiv (Cornell University)|May 23, 2017

Generative Adversarial Networks and Image Synthesis参考文献 12被引用数 98

ひとこと要約

この論文は、G に対してエラスティック・ウェイト・コンソリデーションを適用することで GAN の継続的学習フレームワークを提案し、過去に学習した分布を忘れずに新しいデータ分布を順次学習できるようにする。MNIST および SVHN のクラス条件付き GAN でこれを実証する。

ABSTRACT

Developments in deep generative models have allowed for tractable learning of high-dimensional data distributions. While the employed learning procedures typically assume that training data is drawn i.i.d. from the distribution of interest, it may be desirable to model distinct distributions which are observed sequentially, such as when different classes are encountered over time. Although conditional variations of deep generative models permit multiple distributions to be modeled by a single network in a disentangled fashion, they are susceptible to catastrophic forgetting when the distributions are encountered sequentially. In this paper, we adapt recent work in reducing catastrophic forgetting to the task of training generative adversarial networks on a sequence of distinct distributions, enabling continual generative modeling.

研究の動機と目的

• 深層生成モデルの継続的学習を、逐次的な分布シフトの下で動機づける。
• 再トレーニングをゼロから行わず、忘却防止技術を GAN に適用する。
• 単一のジェネレータが、時間とともに遭遇する複数の分布を、過去のデータを全て保存せずにモデル化できることを示す。
• MNIST で MLP GAN、SVHN で DCGAN を用いて実用性を示す。

提案手法

• 過去のタスクにとって重要であると識別されたパラメータの変化をペナルティとして加える、フィッシャ情報に基づく拡張ジェネレータ目的を使用する。
• 識別子の出力に基づく経験的フィッシャ情報を計算して、G の顕著なパラメータを特定する。
• 新たなタスクの学習時に prior タスクのパフォーマンスを保つために、G のパラメータへ EWC に類似した2 次ペナルティを適用する。
• 可能な限り、各分布を異なる条件入力 y と関連付ける条件付き GAN 設定で操作する。
• 過去データへのアクセスや再生した過去データがなくても、タスクの連続性に対してスケーラブルなアプローチとして扱う。

実験結果

リサーチクエスチョン

• RQ1 過去データへアクセスせず、崩壊的忘却なしに新しい分布へ GAN を逐次学習できるか？
• RQ2 ジェネレータに EWC スタイルのペナルティを適用して、以前に学習した分布を新しい分布を学習しつつ保持できるか？
• RQ3 MNIST と SVHN の異なるデータセットに対して、条件付き GAN でこのアプローチは効果的か？

主な発見

• フィッシャーに基づくペナルティを用いた拡張目的は、標準的な GAN 訓練と比較して忘却を抑制する。
• MNIST の MLP GAN では、数字を逐次学習する際に忘却を防ぐ。
• SVHN の DCGAN では、新しい数字を追加しつつ以前に学習した数字を保持する。
• ペナルティパラメータ λ の値の範囲に対してロバストであり、視覚的忠実度と多様性を維持する。
• (z,y) からデータへの安定した写像を、タスクが時間とともに変化しても維持する上で、条件付きフレームワークの利用が有効であることを示す。