[論文レビュー] Progressive Growing of GANs for Improved Quality, Stability, and Variation

Tero Karras, Timo Aila+2 more|arXiv (Cornell University)|Oct 27, 2017

Generative Adversarial Networks and Image Synthesis被引用数 2,871

ひとこと要約

この論文は、ジェネレーターとディスクリミネーターの両方を段階的に成長させることでGAN訓練を安定化し、高解像度画像を生成する方法を提案し、CelebA-HQ 1024^2 や CIFAR-10 の監視なしスコア8.80を含む品質と多様性の向上を実証する。

ABSTRACT

We describe a new training methodology for generative adversarial networks. The key idea is to grow both the generator and discriminator progressively: starting from a low resolution, we add new layers that model increasingly fine details as training progresses. This both speeds the training up and greatly stabilizes it, allowing us to produce images of unprecedented quality, e.g., CelebA images at 1024^2. We also propose a simple way to increase the variation in generated images, and achieve a record inception score of 8.80 in unsupervised CIFAR10. Additionally, we describe several implementation details that are important for discouraging unhealthy competition between the generator and discriminator. Finally, we suggest a new metric for evaluating GAN results, both in terms of image quality and variation. As an additional contribution, we construct a higher-quality version of the CelebA dataset.

研究の動機と目的

• 高解像度でのGAN訓練における不安定性と変動性の制限を動機づけて対処する。
• 低解像度から高解像度へと段階的にジェネレーターとディスクリミネーターを成長させる訓練 regime を提案する。
• 追加のハイパーパラメータなしで出力の変動性を高める簡易的技法を導入する。
• CelebA 1024^2 での高品質メガピクセル生成と CIFAR-10 の強力な無監督 inception スコアを示す。
• GとD間の不健全な競合を抑制する実践的実装詳細を提供し、品質と変動性を評価する新しい指標を提案する。

提案手法

• 低解像度（4x4）から高解像度（1024x1024）へと段階的にGとDを成長させ、遷移中に層を追加しフェードインさせる。
• 層ごとの学習速度を均等に保つために等化学習率を使用する。
• ジェネレーター内で信号振幅を抑制するためにピクセル単位の特徴ベクトル正規化を適用する。
• ディスクリミネーターにミニバッチ標準偏差機能を組み込み、追加の学習パラメータなしで変動性を促進する。
• 追加の学習パラメータやハイパーパラメータを増やさない簡略化されたミニバッチ識別の概念を採用する。
• 訓練データセットとの分布類似性を評価するためにラプラシアンピラミッドに基づく多尺度統計的類似性指標（SWD）を使用する。

実験結果

リサーチクエスチョン

• RQ1 高解像度でのGAN訓練を、GとDの両方の段階的成長で安定化できるか。
• RQ2 段階的成長は非段階的GANと比較して画像品質と訓練速度を改善するか。
• RQ3 追加のハイパーパラメータや複雑な正則化を導入せずに、生成画像の変動性をどう高められるか。
• RQ4 スケールを横断した品質と多様性を最もよく定量化する指標は何か。

主な発見

• 段階的な成長は訓練を大幅に高速化し、1024^2 までの高解像度画像生成を安定化する。
• CelebA、LSUN、CIFAR-10 の設定で収束性と高品質な画像を改善。
• ミニバッチ標準偏差と等化学習率がモード崩壊の低減と出力の多様性向上に寄与。
• 高解像度評価を支えるより高品質な CelebA データセット（CelebA-HQ）を1024^2で作成。
• CIFAR-10 の無監督インセプションスコアは 8.80 に達し、従来の無監督結果を上回る。
• SWDベースの多尺度評価は定性的改善と一致し、MS-SSIM を超える構成を識別する。