[論文レビュー] Generative Adversarial Parallelization

Daniel Jiwoong Im, He Ma+2 more|arXiv (Cornell University)|Dec 13, 2016

Generative Adversarial Networks and Image Synthesis参考文献 11被引用数 30

ひとこと要約

本稿では、生成対抗的並列化（GAP）を提案する。GAPは、複数のGANを並列に学習しながら、定期的に判別器を交換することで、生成器と判別器の結合を軽減するフレームワークである。これにより、モードカバレッジ、学習安定性、生成品質が向上し、MNIST、CIFAR-10、LSUNにおいてGAM-IIおよび尤度指標の下でDCGANに比べて顕著な改善が得られた。

ABSTRACT

Generative Adversarial Networks have become one of the most studied frameworks for unsupervised learning due to their intuitive formulation. They have also been shown to be capable of generating convincing examples in limited domains, such as low-resolution images. However, they still prove difficult to train in practice and tend to ignore modes of the data generating distribution. Quantitatively capturing effects such as mode coverage and more generally the quality of the generative model still remain elusive. We propose Generative Adversarial Parallelization, a framework in which many GANs or their variants are trained simultaneously, exchanging their discriminators. This eliminates the tight coupling between a generator and discriminator, leading to improved convergence and improved coverage of modes. We also propose an improved variant of the recently proposed Generative Adversarial Metric and show how it can score individual GANs or their collections under the GAP model.

研究の動機と目的

• 生成器と判別器の密な結合に起因する、標準GAN学習におけるモード崩壊と収束不良という長年の課題に取り組む。
• 共有判別器の交換を通じて、生成器を個々の判別器から分離させることで、モードカバレッジと生成モデルの品質を向上させる。
• 多様なGANバリアントや既存の学習技術と互換性がある、スケーラブルで並列化可能な学習フレームワークを開発する。
• 改善版Generative Adversarial Metric（GAM-II）を用いた定量的評価フレームワークを提供し、モードカバレッジと生成品質を評価する。

提案手法

• 各々が独自の生成器と判別器を持つ複数のGANを並列に学習し、二部グラフ構造を形成する。
• 固定間隔（例：0.5エポックごと）で生成器間で判別器を定期的に交換し、任意の1つの生成器と判別器の直接的結合を軽減する。
• GAPフレームワーク下での個々のGANおよびその集合のスコア付けに、変更を加えたGenerative Adversarial Metric（GAM-II）を用いる。
• 特に高容量モデルにおいて安定化を図るため、勾配クリッピングを併用した同期学習を適用する。
• DCGANやGRANなどの複数のGANバリアントをハイブリッドGAPモデル（GAP C4）に統合し、多様なアーキテクチャにおける性能を評価する。
• MNISTおよびCIFAR-10における対数尤度推定に、AIS（アニーリング重要度サンプリング）を併用して生成品質を評価する。

実験結果

リサーチクエスチョン

• RQ1 複数のGAN間で判別器を定期的に交換することで、モード崩壊の低減と学習安定性の向上が達成できるか？
• RQ2 GAPフレームワークは、標準GANおよびデータ並列学習に比べ、モードカバレッジと生成品質を向上させるか？
• RQ3 交換頻度はGAP学習プロトコルにおける収束性と性能にどのように影響するか？
• RQ4 改善版GAM-II指標は、GAPモデル下での個々のGANおよびその集合のスコア付けに効果的に機能するか？
• RQ5 DCGANとGRANなどの異なるGANバリアントをGAPフレームワークに統合することで、個々のモデルに比べて性能が向上するか？

主な発見

• GAP(DCGAN)は、すべてのデータセットでGAM-II指標においてDCGANを顕著に上回り、CIFAR-10およびLSUNでは平均誤差率が最大15%まで低減された。
• GAP(GRAN)はCIFAR-10およびMNISTでGRANを上回り、LSUNでは最悪ケース誤差で20%の改善が見られた。
• GAP(DCGAN)の最良性能は、交換頻度が0.5（1エポックに2回）のときを得ており、学習コストの分散が最小化された。
• GAP D4はMNISTで691.6 ± 0.01の対数尤度を達成し、DCGANの682.5 ± 12.51を上回り、密度推定の精度が向上した。
• ハイブリッドGAP C4モデルは、個々のGAPモデルを上回る性能を示さず、DCGANとGRANバリアントを統合しても追加的利益は得られなかった。
• GAPモデルから生成されたサンプルの視覚的評価では、CIFAR-10およびLSUNベンチマークで、多様性と現実性の両方が向上していた。