[論文レビュー] Improved Training with Curriculum GANs

Rishi Sharma, Shane Barratt+2 more|arXiv (Cornell University)|Jul 24, 2018

Handwritten Text Recognition Techniques参考文献 21被引用数 10

ひとこと要約

本稿では、GANの学習を安定化させ、生成画像の品質を向上させるために、訓練中にディスクラミネーターの容量を段階的に増加させる訓練戦略、すなわちカリキュラム GAN を導入する。Karras ら（2017）の複雑な段階的成長メカニズムとは独立してこのカリキュラムを分離することで、モデルの複雑さを著しく低減しつつ、最先端の画像生成結果を達成した。これは、さまざまなデータモダリティにわたる高品質な GAN 訓練において、カリキュラム学習が重要な要因であることを示している。

ABSTRACT

In this paper we introduce Curriculum GANs, a curriculum learning strategy for training Generative Adversarial Networks that increases the strength of the discriminator over the course of training, thereby making the learning task progressively more difficult for the generator. We demonstrate that this strategy is key to obtaining state-of-the-art results in image generation. We also show evidence that this strategy may be broadly applicable to improving GAN training in other data modalities.

研究の動機と目的

• 最先端の画像生成における GAN の性能向上の背後にある核心的な訓練戦略を分離し、検証すること。
• 生成品質の高いサンプルを生み出す要因が、複雑なアーキテクチャの変更ではなく、ディスクラミネーターの段階的容量拡大にあることを示すこと。
• カリキュラム学習を、画像データを超えて一般化可能な独立した訓練手法として形式化すること。
• ドメイン特有の「テクニック」への依存を減らし、統一的で原理的根拠を持つ訓練制度を特定すること。
• カリキュラム学習が、さまざまなデータモダリティにわたる GAN の安定性と性能向上に寄与することを実証的に示すこと。

提案手法

• 本手法は、訓練エポックに伴いディスクラミネーターの容量を段階的に増加させるカリキュラム戦略を導入する。
• 訓練は、初期段階で弱いディスクラミネーターから開始され、これにより生成器は過剰な圧力を受けることなく、粗い特徴を最初に学習できる。
• 訓練が進むにつれ、ディスクラミネーターは段階的により複雑なアーキテクチャにアップグレードされ、生成器の挑戦が高まる。
• 生成器は、進化するディスクラミネーターとエンドツーエンドで訓練され、増加する識別難易度に適応できるようになる。
• 本手法は、Karras ら（2017）が用いたネットワークの深さと幅の段階的成長と、カリキュラムを分離することで、訓練設定を単純化する。
• カリキュラムは、段階的に複雑なデータ分布や特徴階層をディスクラミネーターに学習させることで実装され、学習難易度の自然な進行を模倣する。

実験結果

リサーチクエスチョン

• RQ1 Karras ら（2017）が達成した最先端の画像品質をもたらす、具体的な訓練戦略は何か？
• RQ2 GAN 訓練における性能向上は、アーキテクチャの複雑さではなく、カリキュラム学習メカニズムに起因するのだろうか？
• RQ3 段階的にディスクラミネーターの容量を増加させることは、画像生成における GAN 訓練の安定性とサンプル品質を向上させるか？
• RQ4 このカリキュラムベースのアプローチは、画像を超えた他のデータモダリティへ一般化可能だろうか？
• RQ5 最近の自然言語生成における GAN の成功は、暗黙のカリキュラム学習の使用に起因しているのだろうか？

主な発見

• 本研究では、ディスクラミネーターの容量を時間経過とともに段階的に増加させるカリキュラム戦略を適用することで、簡素化された GAN の設定で最先端の画像生成品質を達成した。
• 提案された Curriculum GANs 法は、生成器およびディスクラミネーターのレイヤーワイズ段階的成長を必要とせず、Karras ら（2017）と同等のサンプル品質を達成した。
• Curriculum GANs を用いた訓練プロセスは、同等の訓練段階で視覚的比較により確認したところ、元の段階的成長法と同様の収束パターンと視覚的品質を示した。
• 本手法は、高品質な画像合成の鍵がアーキテクチャの複雑さではなく、ディスクラミネーター難易度の戦略的進行にあることを示した。
• 予備的な結果から、カリキュラム学習は自然言語生成やテキストから画像への変換など、他の GAN アプリケーションにも広く適用可能である可能性がある。
• 本研究は、カリキュラム学習が、さまざまなデータモダリティにわたる GAN 訓練の安定化と向上に一般化可能で、原理的根拠を持つ方法であることを実証的に支持した。