[論文レビュー] An Online Learning Approach to Generative Adversarial Networks

Paulina Grnarova, Kfir Y. Levy+3 more|arXiv (Cornell University)|Jun 10, 2017

Generative Adversarial Networks and Image Synthesis参考文献 4被引用数 15

ひとこと要約

本稿では、生成対抗ネットワーク（GAN）のトレーニングをオンライン学習に基づく手法として提案する。Chekhov GANは、生成器と判別器をゼロサムゲームのプレイヤーとしてモデル化し、レグレット最小化を用いて半浅いGANアーキテクチャ（1層の判別器、任意の生成器）において、混合戦略均衡に理論的に収束することを保証する。さらに、理論的洞察に基づく実用的ヒューリスティクスを導入することで、深層アーキテクチャにおいてもトレーニングの安定性とサンプルの多様性が向上し、視覚的品質を損なわずに実現する。

ABSTRACT

We consider the problem of training generative models with a Generative Adversarial Network (GAN). Although GANs can accurately model complex distributions, they are known to be difficult to train due to instabilities caused by a difficult minimax optimization problem. In this paper, we view the problem of training GANs as finding a mixed strategy in a zero-sum game. Building on ideas from online learning we propose a novel training method named Chekhov GAN 1 . On the theory side, we show that our method provably converges to an equilibrium for semi-shallow GAN architectures, i.e. architectures where the discriminator is a one layer network and the generator is arbitrary. On the practical side, we develop an efficient heuristic guided by our theoretical results, which we apply to commonly used deep GAN architectures. On several real world tasks our approach exhibits improved stability and performance compared to standard GAN training.

研究の動機と目的

• 最小化最大最適化における交互勾配降下法に起因する標準GANトレーニングの不安定性と収束不能の問題に対処すること。
• オンライン学習における混合戦略が、非凸・非凹な設定においてもGANトレーニングの安定収束を提供できるかどうかを検討すること。
• 理論的根拠を持つが実用的であるGANトレーニング手法を開発し、モードドロップを低減し、サンプルの多様性を向上させること。
• 理論的収束保証を半浅いアーキテクチャから、より複雑で一般的に使われる深層GANアーキテクチャへ、理論的洞察に基づくヒューリスティクスを用いて拡張すること。
• 実世界のデータセットにおいて、提案手法が標準GANトレーニングに比べてトレーニングの安定性とサンプル品質で優れていることを経験的に示すこと。

提案手法

• 生成器と判別器の間の2人ゼロサムゲームとしてGANトレーニングをモデル化し、混合戦略均衡を求めることが目的である。
• オンライン学習のレグレット最小化アルゴリズムを生成器および判別器の両プレイヤーに適用する。
• 時間経過に伴うレグレットを最小化するため、適応的学習率を用いたオンライン勾配降下を用い、相関均衡への収束を保証する。
• 「チェホフの銃」の原則にインspiredされた、各コンponentが必要不可欠で逐次構成される、新規なアルゴリズムであるChekhov GANを導入する。
• 半凸ゲームの解析を通じて、半浅いGAN（1層の判別器、任意の生成器）に対する理論的保証を導出する。
• 理論的洞察に基づく実用的ヒューリスティクスを開発し、深層GANアーキテクチャへの適用を可能にし、安定性と多様性を維持する。

実験結果

リサーチクエスチョン

• RQ1 オンライン学習によるレグレット最小化は、半浅いGANアーキテクチャにおいて、理論的に均衡に収束させることができるか？
• RQ2 オンライン学習における混合戦略の使用は、標準GANの交互勾配降下法と比較して、トレーニングの安定性を向上させるか？
• RQ3 半浅いGANにおける理論的収束保証を、実用的ヒューリスティクスを用いて、深層で現実的であるGANアーキテクチャへ拡張可能か？
• RQ4 提案手法は、モードドロップとサンプルの多様性の観点で、標準GANトレーニングと比較してどのように異なるか？
• RQ5 本手法は、トレーニングの安定性と生成サンプルの視覚的品質にどのような経験的影響を与えるか？

主な発見

• 理論的解析により、Chekhov GANが、凸・凹でない場合でさえも、半浅いGANアーキテクチャにおいて混合戦略均衡に理論的に収束することを証明した。
• ベンチマークデータセット上での実験により、標準GANトレーニングと比較して、トレーニングの安定性が向上し、モードドロップが低減した。
• 経験的結果から、Chekhov GANのヒューリスティクス版は、高い視覚的品質を維持しながら、より多様なサンプルを生成することが示された。
• 生成器および判別器のレグレットバウンドが、O(1/√T) のレートでゼロに収束することが示され、近似均衡への収束が保証された。
• CIFAR-10 や CelebA を含む複数の実世界データセットにおいて、本手法は一貫した性能向上を示し、トレーニングダイナミクスの改善が得られた。