[論文レビュー] Bidirectional Generative Modeling Using Adversarial Gradient Estimation

Xinwei Shen, Tong Zhang+1 more|arXiv (Cornell University)|Feb 21, 2020

Generative Adversarial Networks and Image Synthesis参考文献 37被引用数 6

ひとこと要約

本稿では、一般f-発散の勾配を一貫したスケーリングで推定する識別器を用いて、双方向的生成モデルのための敵対的勾配推定（Adversarial Gradient Estimation）を提案する。この手法により、VAEとGANが一貫したf-発散フレームワークの下で統合され、安定した学習、優れたモードカバレッジ、および従来手法よりも分散が小さい高品質な生成が達成される。

ABSTRACT

This paper considers the general $f$-divergence formulation of bidirectional generative modeling, which includes VAE and BiGAN as special cases. We present a new optimization method for this formulation, where the gradient is computed using an adversarially learned discriminator. In our framework, we show that different divergences induce similar algorithms in terms of gradient evaluation, except with different scaling. Therefore this paper gives a general recipe for a class of principled $f$-divergence based generative modeling methods. Theoretical justifications and extensive empirical studies are provided to demonstrate the advantage of our approach over existing methods.

研究の動機と目的

• 従来のf-発散に基づく生成モデルが抱える学習安定性と統計的効率性の限界を解消すること。
• 双方向的生成モデルにおけるVAEとGANを一般f-発散の定式化に基づいて統合すること。
• 複数の発散を同時に低分散で最小化できる、原理的かつスケーラブルな最適化手法を開発すること。
• エンコーダーとジェネレータのパラメータに対するf-発散最小化における勾配計算の理論的裏付けを提供すること。
• 実験的に、本手法がモードカバレッジ、生成品質、表現学習において優れていることを検証すること。

提案手法

• 生成モデルとエンコーダーのパラメータに関するf-発散の一般勾配式を導出。異なる発散はスケーリングの違いのみであることを示す。
• 非線形ロジスティック回帰で訓練された識別器を用いて勾配を推定。これにより、効率的かつ安定した最適化が可能になる。
• スケーリングクリッピング技術を適用。これにより、複数のf-発散を同時に局所的に最小化でき、分散が低減される。
• f-発散の変分表現を用いることで、敵対的学習を維持しつつ理論的整合性を保つ。
• 同じアルゴリズム的構造がさまざまなf-発散に適用可能である統一フレームワークを導入。異なるスケーリング係数のみが異なる。
• パラメトリックな識別器を用いて発散の勾配を推定。ヒューリスティックな密度比推定手法を回避する。

実験結果

リサーチクエスチョン

• RQ1 f-発散に基づく双方向的生成モデルに、複数の発散に適用可能な統一された最適化フレームワークを開発できるか？
• RQ2 敵対的勾配推定は、f-GAN や密度比に基づく手法と比較して、学習安定性と統計的効率性をどのように向上させるか？
• RQ3 提案手法は、分散を低く抑えながら、複数のf-発散を同時に最小化できるか？
• RQ4 本手法は、実世界のデータ生成タスクにおいて、モードカバレッジと表現品質を向上させるか？
• RQ5 本フレームワークは、VAEとGANを共通の理論的定式化の下でどのように統合するか？

主な発見

• 提案されたAGES手法は、f-GAN や密度比に基づく手法と比較して、f-発散最小化における学習の安定性と分散の低減を達成した。
• 合成データおよび実世界のデータセット上での実験により、生成モデルにおけるモード崩壊の緩和が明確に示された。
• 実験結果から、特にBigGANスタイルのアーキテクチャを用いた場合に、画像生成品質と意味的表現学習の両面で優れた性能が得られた。
• フレームワークにより、KL、逆KL、JS、ヘリンジャーなど複数のf-発散を、同じアルゴリズム的構造を用いて異なるスケーリング係数で同時に最小化できるようになった。
• 理論的分析により、すべてのf-発散が勾配評価手順を類似させ、スケーリングの違いのみであることが確認され、一般化された手順の正当性が裏付けられた。
• 広範な実験により、表現学習およびデータ生成の両面で本手法の有効性が検証され、多様なベンチマークで一貫した性能向上が得られた。