[論文レビュー] Finding Mixed Nash Equilibria of Generative Adversarial Networks

Ya-Ping Hsieh, Chen Liu+1 more|arXiv (Cornell University)|Oct 23, 2018

Generative Adversarial Networks and Image Synthesis参考文献 23被引用数 17

ひとこと要約

本稿は、生成対抗ネットワーク（GAN）の学習プロセスを無限次元の2人ゼロサムゲームとしてモデル化し、混合ナッシュ均衡を求めるアルゴリズムフレームワークを提案する。このフレームワークは、収束保証付きの近接法を用い、SGLDを用いてこれらの手法を効率的なサンプリング手続きに還元することで、SGD、Adam、RMSPropよりも優れた性能と安定性を達成している。合成および実世界の画像生成タスクにおいて、両方の分野で優れた結果を示した。

ABSTRACT

We reconsider the training objective of Generative Adversarial Networks (GANs) from the mixed Nash Equilibria (NE) perspective. Inspired by the classical prox methods, we develop a novel algorithmic framework for GANs via an infinite-dimensional two-player game and prove rigorous convergence rates to the mixed NE, resolving the longstanding problem that no provably convergent algorithm exists for general GANs. We then propose a principled procedure to reduce our novel prox methods to simple sampling routines, leading to practically efficient algorithms. Finally, we provide experimental evidence that our approach outperforms methods that seek pure strategy equilibria, such as SGD, Adam, and RMSProp, both in speed and quality.

研究の動機と目的

• 純戦略均衡が不適切に定式化されたことによる、GAN学習における長年の不安定性および収束不能性の問題に対処すること。
• GAN学習を混合ナッシュ均衡の探索に再定式化することで、解の存在と適切な定式化を保証すること。
• 任意のアーキテクチャを持つGANに、無限次元戦略空間への古典的近接法の拡張を実現すること。
• SGLDを用いて近接更新をサンプリングタスクに還元することで、計算コストを最小限に抑えた実用的で効率的なアルゴリズムを開発すること。
• SGD、Adam、RMSPropといった標準的最適化手法と比較して、収束速度とサンプル品質の面で優れた性能を実証すること。

提案手法

• GAN学習を確率測度上の無限次元2人ゼロサムゲームとして定式化し、純戦略ではなく混合ナッシュ均衡を求める。
• ミラー降下法とミラー・プロックス法を無限次元戦略空間に適応させ、混合ナッシュ均衡への収束速度を理論的に証明する。
• Stochastic Gradient Langevin Dynamics（SGLD）を用いて、近接更新をサンプリングタスクに還元し、実装可能性を確保する。
• 学習中の探索と精度のバランスを取るために、SGLDパラメータ（ステップ数、ステップサイズ、ノイズ）の適応的スケジューリングを採用する。
• 学習の安定化と収束の改善を図るため、減衰係数と指数関数的減衰スケジュールをハイパーパrameterに導入する。
• パラメータ依存性のため、バッチ正規化層はSGLDサンプリングから除外し、理論的一致性を保持する。

実験結果

リサーチクエスチョン

• RQ1 混合ナッシュ均衡は、純戦略均衡と比較して、GAN学習に対してより安定的かつ適切に定式化された定式化を提供できるか？
• RQ2 任意のアーキテクチャを持つGANにおいて、近接法を無限次元戦略空間に厳密に拡張できるか？
• RQ3 得られた近接更新は、収束保証を損なわずに、効率的なサンプリング手続きに還元できるか？
• RQ4 提案手法は、SGD、Adam、RMSPropといった標準的最適化手法と比較して、収束速度とサンプル品質の両面で優れているか？
• RQ5 このアルゴリズムは、合成および実世界のデータセットにおいて、モード崩壊を回避し、高品質かつ多様なサンプルに収束できるか？

主な発見

• 8および25個のガウス混合分布を用いた合成データセットにおいて、提案手法のミラー法およびミラー・プロックス法GANは、SGD、Adam、RMSPropよりも高速な収束と優れたサンプル品質を達成した。
• スイス・ロールデータセットでは、ミラー法およびミラー・プロックス法GANが、元の多様体構造を的確に捉え、モード崩壊を回避した。
• LSUNベッドルームデータセットでは、80,000イテレーション後にAdamが深刻なモード崩壊を示したが、ミラーGANは学習全体を通じて高品質な生成を維持した。
• RMSPropで事前条件付けたSGLDを用いたミラーGANは、バニラRMSPropを上回る性能を示し、サンプリングに基づく更新戦略の利点を裏付けた。
• このアルゴリズムは一貫してバイアスのないモードを特定し、複雑な分布の全分散を捉えることができた。一方、ベースライン最適化手法はしばしば悪い局所最小値に陥っていた。
• 適応的SGLDスケジューリングの導入により、初期段階での探索性と後段の精度のバランスが取れ、収束が向上した。