[論文レビュー] Coulomb GANs: Provably Optimal Nash Equilibria via Potential Fields

Thomas Unterthiner, Bernhard Nessler+5 more|arXiv (Cornell University)|Aug 29, 2017

Generative Adversarial Networks and Image Synthesis参考文献 36被引用数 29

ひとこと要約

Coulomb GANs は、生成モデルと識別モデルの対戦を物理的ポテンシャル場としてモデル化する新しい GAN フレームワークを導入する。生成サンプルは、実データポイントに引き寄せられ、互いにクーロン力に類似した力で反発する。この手法は、モデル分布が真の分布と正確に一致する一意でグローバルに最適なナッシュ均衡に、理論的に保証された収束を達成する。これにより、モード崩壊が解消され、複雑なデータ分布の忠実なモデリングが可能になる。

ABSTRACT

Generative adversarial networks (GANs) evolved into one of the most successful unsupervised techniques for generating realistic images. Even though it has recently been shown that GAN training converges, GAN models often end up in local Nash equilibria that are associated with mode collapse or otherwise fail to model the target distribution. We introduce Coulomb GANs, which pose the GAN learning problem as a potential field of charged particles, where generated samples are attracted to training set samples but repel each other. The discriminator learns a potential field while the generator decreases the energy by moving its samples along the vector (force) field determined by the gradient of the potential field. Through decreasing the energy, the GAN model learns to generate samples according to the whole target distribution and does not only cover some of its modes. We prove that Coulomb GANs possess only one Nash equilibrium which is optimal in the sense that the model distribution equals the target distribution. We show the efficacy of Coulomb GANs on a variety of image datasets. On LSUN and celebA, Coulomb GANs set a new state of the art and produce a previously unseen variety of different samples.

研究の動機と目的

• 標準 GAN における持続的なモード崩壊と局所的ナッシュ均衡の問題を解決すること。
• 真のデータ分布と一致する理論的に保証された一意のグローバル最適解を持つ GAN フレームワークを開発すること。
• 生成モデルと識別モデルの相互作用を、静電気的力に類似した物理的ポテンシャル場としてモデル化すること。
• 識別モデルが、生成モデルがエネルギーを最小化し、すべてのデータモードをカバーできるポテンシャル場を学習できることを保証すること。
• 得られた GAN モデルが局所的最小値を避けており、優れたサンプルの多様性と忠実性を達成することを示すこと。

提案手法

• 識別モデルは、実データの位置に点電荷があるような電位場 Φ(x) を学習する。
• 生成モデルは、ポテンシャル場の負の勾配 −∇ₓΦ(x) に沿ってサンプルを移動させることでエネルギーを最小化する。これは力場に従って運動するのを模倣する。
• 生成モデルの損失関数は、生成サンプル上でポテンシャル場を積分したものとして定義され、低エネルギー領域にサンプルが落ち着くよう促進する。
• ポテンシャル場のモデルにはプレマー核が用いられ、滑らかで局所的最小値がないため、グローバル収束が保証される。
• 理論的分析により、唯一のナッシュ均衡は、モデル分布が真の分布と一致する最適解であることが証明されている。
• 十分なネットワーク容量のもとで収束を保証するため、2段階の時間スケール更新則が用いられる。

実験結果

リサーチクエスチョン

• RQ1 モデル分布が真の分布と正確に一致する唯一のナッシュ均衡を持つような GAN フレームワークを設計できるか？
• RQ2 生成サンプル同士の反発を強制することで、ポテンシャル場の定式化がモード崩壊を解消できるか？
• RQ3 局所的最小値のないポテンシャル場での学習が、最適解への収束を保証するか？
• RQ4 このようなフレームワークは、標準 GAN や MMD を用いた GAN よりも、複雑な多モードデータ分布をより良くモデリングできるか？
• RQ5 Coulomb GAN におけるサンプルの多様性と分布忠実度は、画像生成およびテキスト生成タスクにおける最先端 GAN と比べてどうか？

主な発見

• Coulomb GAN は、一意で理論的に最適なナッシュ均衡に収束し、十分な容量と収束のもとで、モデル分布が真の分布と正確に一致することが保証される。
• CIFAR-10 では FID スコアが 27.3 であり、WGAN-GP (29.3/24.8) や DCGAN (70.4/57.5) を上回り、優れた画像品質と多様性を示している。
• LSUN ベッドルームでは FID スコアが 31.2 であり、BEGAN (113/112) や WGAN-GP (20.5/9.5) を上回り、複雑なシーンでも優れた性能を発揮している。
• CelebA フェイスでは FID スコアが 9.3 であり、WGAN-GP (4.8/4.2) や DCGAN (21.4/12.5) より顕著に優れており、高忠実度のサンプル生成を実現している。
• 生成分布のサポートサイズは、50% の確率で重複が発生するまでの約 100 万サンプル程度と推定され、データ多様体の優れたカバーを示している。
• 最近傍解析により、生成サンプルが訓練データのコピーを記憶したものではないことが示され、最も近い訓練画像が通常は完全な一致ではない。