[論文レビュー] Deep Generative Learning via Variational Gradient Flow

Yuan Gao, Yuling Jiao+4 more|arXiv (Cornell University)|Jan 24, 2019

Generative Adversarial Networks and Image Synthesis参考文献 59被引用数 4

ひとこと要約

本稿では、確率空間上の勾配フローを用いて単純な事前分布をターゲットデータ分布へ変換する、新たな深層生成モデルフレームワークである変分勾配フロー（VGrow）を提案する。f-発散の一次変種を密度比推定から得たベクトル場を用いて最小化することで、安定的で高精細な画像生成が可能となり、最先端の GAN と同等の性能を達成する。特に、logD-トリック GAN を支える新たな「logD」発散が導出された。

ABSTRACT

We propose a general framework to learn deep generative models via extbf{V}ariational extbf{Gr}adient Fl extbf{ow} (VGrow) on probability spaces. The evolving distribution that asymptotically converges to the target distribution is governed by a vector field, which is the negative gradient of the first variation of the $f$-divergence between them. We prove that the evolving distribution coincides with the pushforward distribution through the infinitesimal time composition of residual maps that are perturbations of the identity map along the vector field. The vector field depends on the density ratio of the pushforward distribution and the target distribution, which can be consistently learned from a binary classification problem. Connections of our proposed VGrow method with other popular methods, such as VAE, GAN and flow-based methods, have been established in this framework, gaining new insights of deep generative learning. We also evaluated several commonly used divergences, including Kullback-Leibler, Jensen-Shannon, Jeffrey divergences as well as our newly discovered `logD' divergence which serves as the objective function of the logD-trick GAN. Experimental results on benchmark datasets demonstrate that VGrow can generate high-fidelity images in a stable and efficient manner, achieving competitive performance with state-of-the-art GANs.

研究の動機と目的

• 変分推論、確率空間上の勾配フロー、深層ニューラルネットワークを統合した、深層生成モデリングの統一フレームワークの構築を目的とする。
• f-発散の一次変種の負の勾配に従う連続的フローとして学習プロセスを定式化することにより、深層生成モデルの訓練を安定化することを目的とする。
• VAE、GAN、ノーマライジングフローなどの既存手法と、VGrow の理論的・実用的関係を確立することを目的とする。
• 新たに発見された「logD」発散を含む新たな発散を探索し、生成モデリングの有効な目的関数としての有効性を検証することを目的とする。
• MNIST、FashionMNIST、CIFAR10、CelebA などのベンチマークデータセット上で、高精細で安定した画像生成を達成することを目的とする。

提案手法

• 進化する分布は、進化分布とターゲット分布間のf-発散の一次変種の勾配の負の方向に沿ったベクトル場によって進化する。
• 進化する分布が、ベクトル場に沿って恒等写像を微小な残差マップで摂動させた際のプッシュフォワード分布と一致することを示す。
• ベクトル場は、プッシュフォワード分布とターゲット分布の密度比に依存し、これは二値分類タスクによって推定される。
• 本フレームワークは、VAE（KL 発散による）、GAN（JS 発散による）、フローに基づくモデル（正確なKL最小化による）を、統一的な変分勾配フローの視点から一般化・統合する。
• 新たに導出された発散「logD」は、logD-トリック GAN を支える根拠を提供し、標準的な GAN 目的関数のより理論的で整合性のある代替手段を提供する。
• 外側ループのISループ最適化戦略を用いて訓練され、安定性と性能評価にはインセプションスコアとFIDが用いられる。

実験結果

リサーチクエスチョン

• RQ1 確率空間上の連続的勾配フローは、安定的かつ効率的に深層生成モデルを学習するためにどのように利用可能か？
• RQ2 変分勾配フローと、VAE や GAN、ノーマライジングフローなどの既存の深層生成モデルとの理論的関係は何か？
• RQ3 新たに導出された発散「logD」は、GAN の訓練目的関数として効果的に利用可能か？
• RQ4 提案された VGrow フレームワークは、標準ベンチマーク上での最先端 GAN と比較して、性能と安定性の点でどの程度優れているか？
• RQ5 二値分類による密度比推定は、深層生成モデルの安定的訓練をどの程度可能にするか？

主な発見

• MNIST、FashionMNIST、CIFAR10 において、インセプションスコアが単調に増加する安定した訓練を達成しており、学習進捗が一貫していることが示された。
• MNIST と FashionMNIST では、VGrow-JS がそれぞれ FID スコア 3.32 と 8.75 を達成し、実データの FID（2.12 と 4.16）に非常に近い結果を得た。
• 50,000 個の生成サンプルを用いた CIFAR10 では、VGrow-logD が FID 28.8 を達成し、WGAN-GP（31.1）と MMDGAN-GP-L2（31.4）を上回り、報告済み最高スコア 28.5 に近づいた。
• VGrow-KL モデルは、すべてのデータセットで視覚的に現実的なサンプルを生成し、クラスごとに識別可能であり、多くの場合、実画像と区別がつかない。
• KL、JS、JF、および新たに導入された logD を含む複数の発散に対して、本手法は一貫した性能向上を示し、高いロバスト性を示した。
• 理論的分析により、VGrow における進化する分布が、無限小の残差マップによる事前分布のプッシュフォワードと等価であることが確認され、本手法の理論的基盤が確立された。