[論文レビュー] MR-GAN: Manifold Regularized Generative Adversarial Networks

Qunwei Li, Bhavya Kailkhura+4 more|arXiv (Cornell University)|Nov 22, 2018

Generative Adversarial Networks and Image Synthesis参考文献 24被引用数 6

ひとこと要約

本稿では、実データ多様体の幾何構造を組み込むことでGAN学習を改善する、多様体正則化付き生成対抗ネットワークMR-GANを提案する。生成器損失に多様体正則化項を追加することで、安定性の向上、モード崩壊の防止、およびDCGANやWGANを含むさまざまなGANアーキテクチャにおける一般化性能と均衡の存在の向上が達成される。合成8モードデータセットでは幾何スコアが最大51.4%向上し、MNISTでは10.14%向上した。

ABSTRACT

Despite the growing interest in generative adversarial networks (GANs), training GANs remains a challenging problem, both from a theoretical and a practical standpoint. To address this challenge, in this paper, we propose a novel way to exploit the unique geometry of the real data, especially the manifold information. More specifically, we design a method to regularize GAN training by adding an additional regularization term referred to as manifold regularizer. The manifold regularizer forces the generator to respect the unique geometry of the real data manifold and generate high quality data. Furthermore, we theoretically prove that the addition of this regularization term in any class of GANs including DCGAN and Wasserstein GAN leads to improved performance in terms of generalization, existence of equilibrium, and stability. Preliminary experiments show that the proposed manifold regularization helps in avoiding mode collapse and leads to stable training.

研究の動機と目的

• GAN学習における継続的な課題、すなわちモード崩壊、均衡の欠如、不安定性を解決すること。
• 実データ多様体の内蔵幾何構造を活用して、生成器の一般化性能と学習安定性を向上させること。
• DCGANやWGANを含む多様なGANアーキテクチャに適用可能な理論的裏付けのある正則化手法を開発すること。
• 実験的に、多様体正則化がサンプル品質の向上とモード崩壊の低減に寄与することを示すこと。
• 多様体正則化による一般化性能、均衡の存在、安定性の向上に関する理論的保証を提供すること。

提案手法

• 実データ多様体の幾何構造を生成器が学習中に尊重するように、多様体正則化項を導入する。
• 実データを潜在空間に写像するカーネルベースの埋め込み関数ψを用い、多様体の幾何構造を保持する。
• 生成サンプルと実データ多様体との距離に比例するペナルティ項として、多様体正則化項を生成器の損失関数に組み込む。
• DCGANやWGANを含む任意のGANフレームワークに対して、生成器の目的関数を変更することで正則化を適用する。
• 最小限のバイアスで多様体正則化項を近似するための深層ニューラルネットワークを採用し、良好な一般化性能を確保する。
• 正則化項の影響を制御するためのカーネルスケールパラメータρと正則化強度λを用いる。

実験結果

リサーチクエスチョン

• RQ1 実データ多様体の幾何構造を組み込むことで、GAN学習の安定性と一般化性能が向上するか？
• RQ2 多様体正則化は、GAN学習における均衡の存在と収束性を向上させるか？
• RQ3 提案手法は、DCGANやWGANのような異なるGANアーキテクチャにおいてもモード崩壊を防止できるか？
• RQ4 判別器に適用される既存の正則化手法と比較して、多様体正則化はどのように異なるか？
• RQ5 多様体正則化は、GANの一般化性能と安定性に理論的にどのような影響を与えるか？

主な発見

• 合成8モードデータセットでは、MR-GANが標準GANに比べて幾何スコア(GS)を51.4%向上させ、0.909から0.442に低下させた。
• MNISTデータセットでは、MR-WGANがλ=0.01、ρ=10の条件下でWGAN（GS=0.414）に比べて幾何スコア(GS=0.372)で10.14%向上した。
• CelebAデータセットでは、MR-DCGANがλ=0.1、ρ=0.5の条件下で、ベースラインのGS=10.77から6.33に低下させ、約40%の改善を達成した。
• 提案手法は、合成実験における全8モードにわたる生成サンプルの均等な分布により、モード崩壊を効果的に回避したことが裏付けられた。
• 理論的分析により、多様体正則化が任意のGANクラスにおいて一般化性能、均衡の存在、学習安定性の向上をもたらすことが確認された。
• 多様体正則化項は実装が簡単で、DCGANやWGANを含む複数のGANアーキテクチャに有効に機能することが示された。