[論文レビュー] Composite Functional Gradient Learning of Generative Adversarial Models

Rie Johnson, Tong Zhang|arXiv (Cornell University)|Jan 19, 2018

Generative Adversarial Networks and Image Synthesis参考文献 20被引用数 4

ひとこと要約

本論文は、従来のミニマックス定式化を避ける複合関数勾配学習に基づく、新たな安定な生成的対抗的学習手法 xICFG を提案する。強い識別器によってガイドされた関数勾配ステップを繰り返し適用することで生成器を改善し、本手法は本物のデータ分布と生成されたデータ分布の間のKLダイバージェンスを低減する。安定した学習とモード崩壊の低減を実現し、最先端の画像生成品質を達成する。

ABSTRACT

This paper first presents a theory for generative adversarial methods that does not rely on the traditional minimax formulation. It shows that with a strong discriminator, a good generator can be learned so that the KL divergence between the distributions of real data and generated data improves after each functional gradient step until it converges to zero. Based on the theory, we propose a new stable generative adversarial method. A theoretical insight into the original GAN from this new viewpoint is also provided. The experiments on image generation show the effectiveness of our new method.

研究の動機と目的

• 従来のミニマックス GAN の不安定性を回避する安定な生成的対抗的学習フレームワークの開発。
• ミニマックス最適化ではなく関数勾配降下に基づく GAN の新たな理論的基盤の提供。
• 繰り返し生成器の最適化を施すことで、モード崩壊を低減し、画像生成の品質を向上。
• 識別器出力差（$\Delta_D$）を用いた訓練安定性指標の確立、早期停止のための指標としての利用。

提案手法

• 複合関数勾配更新の提案：$G_t(z) = G_{t-1}(z) + \eta_t g_t(G_{t-1}(z))$、ここで $g_t$ はデータから学習される。
• ロジスティック回帰を用いて訓練された強力な識別器 $D_t$ を用い、対数尤度比 $\mathcal{D}(x) = \ln \frac{p_*(x)}{p(x)}$ を近似する。
• 関数勾配ステップを $g_t(x) = s_t(x) \nabla D_t(x)$ として定義し、$s_t(x)$ をスケーリングに用いることで生成器の更新をガイドする。
• $T$ ステップにわたるグリーディで繰り返しの最適化プロセスを採用し、各段階で現在の識別器を用いて生成器を改善する。
• 識別器出力差 $\Delta_D = |D(\text{real}) - D(\text{gen})|$ をリアルタイムの訓練安定性指標として用いる。
• MNIST、SVHN、LSUN のデータセットを対象に、畳み込みおよび全結合アーキテクチャを適用して性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 ミニマックス定式化に依存せずに、GAN を安定して訓練できるか？
• RQ2 合成生成器変換における関数勾配降下を用いることで、本物のデータ分布と生成されたデータ分布の間のKLダイバージェンスを低減できるか？
• RQ3 提案手法は、既存の GAN アーキテクチャと比較して、画像品質と訓練安定性の両面で優れているか？
• RQ4 識別器出力差 $\Delta_D$ は、訓練の進行状況や失敗の兆候を信頼できる指標として機能するか？
• RQ5 訓練プロセスから得られる最終近似ネットワークを、コンactかつ高性能な生成器として利用できるか？

主な発見

• xICFG は、LSUN や SVHN において、WGAN-gp や他の最先端手法と同等またはそれ以上のインセプションスコアを達成した。
• MNIST、SVHN、LSUN において、標準 GAN や WGAN の変種と比較して、xICFG はモード崩壊の発生頻度が低く、優れた性能を示した。
• 訓練の不安定性が低減されており、成功した訓練では $\Delta_D$ が単調に減少する傾向を示し、失敗時には急激に上昇する傾向が確認された。
• $T$（例：5〜15）を小さくしても、小さな生成器を用いることで強力な性能が得られ、効率性とスケーラビリティが示された。
• 訓練プロセスから得られる最終近似ネットワークは、同サイズのベースラインモデルと同等またはそれ以上の性能を示し、有効な知識蒸留が行われたことが示された。
• 視覚的評価により、xICFG は GAN の変種と比較して、よりシャープで多様性に富んだ画像を生成していることが確認された。特に GAN1 で見られる深刻なモード崩壊は回避された。