[論文レビュー] Generalization Properties of Optimal Transport GANs with Latent Distribution Learning

Giulia Luise, Massimiliano Pontil+1 more|arXiv (Cornell University)|Jul 29, 2020

Generative Adversarial Networks and Image Synthesis参考文献 44被引用数 12

ひとこと要約

本稿では、最適輸送に基づくGANにおける生成器と潜在分布の共同学習フレームワークを提案し、両者の共同最適化がサンプル複雑性と一般化性能を向上させることを示している。主な貢献は、潜在分布を事前に固定するのと比較して、統計的・計算的負担を軽減するという理論的分析である。

ABSTRACT

The Generative Adversarial Networks (GAN) framework is a well-established paradigm for probability matching and realistic sample generation. While recent attention has been devoted to studying the theoretical properties of such models, a full theoretical understanding of the main building blocks is still missing. Focusing on generative models with Optimal Transport metrics as discriminators, in this work we study how the interplay between the latent distribution and the complexity of the pushforward map (generator) affects performance, from both statistical and modelling perspectives. Motivated by our analysis, we advocate learning the latent distribution as well as the pushforward map within the GAN paradigm. We prove that this can lead to significant advantages in terms of sample complexity.

研究の動機と目的

• 潜在分布の選択と生成器の複雑さがGANの一般化に与える影響についての理論的理解の不足に対処すること。
• OT-GANにおける潜在分布を事前に固定することに起因する統計的・計算的欠陥を調査すること。
• 生成器と潜在分布を同時に学習する新しいGAN推定器を開発し、任意のサブガウスィアン潜在分布の漸近的学習を可能にすること。
• 正確なサポート条件および近似サポート条件の下で、提案された共同推定器の学習速度を理論的に特徴づけること。
• 固定された潜在分布を用いた標準的なGAN学習と比較して、共同学習がサンプル複雑性および性能面で優れていることを実証すること。

提案手法

• 生成器ネットワーク $T_\theta$ と潜在分布 $\eta$ を同時に学習する共同GAN推定器を提案し、Sinkhorn散発を目的関数として用いる。
• 潜在分布 $\eta$ を表すために $m$ 個のパーティクルを用いた粒子ベース最適化スキームを採用し、$T_\theta$ と $\eta$ をブロック座標降下法で更新する。
• 生成分布とターゲット分布の乖離度を測るため、正則化された最適輸送（Sinkhorn）散発 $S_\varepsilon$ を訓練損失として採用する。
• Sinkhorn散発のFréchet微分を用いて $T_\theta$ と $\eta$ の両方の勾配を導出し、エンドツーエンドのバックプロパゲーションを可能にする。
• 勾配推定の精度と安定性を向上させるために、各パーティクルに対して $\ell$ 個の摂動サンプルを用いる戦略を導入する。
• 収束性と近似精度を向上させるために、時間とともに正則化パラメータ $\varepsilon$ を段階的に減少させる戦略を採用する。

実験結果

リサーチクエスチョン

• RQ1 生成器ネットワークの滑らかさが、OT-GANにおけるプッシュフォワード測度のサンプル複雑性にどのように影響するか？
• RQ2 GANにおける潜在分布を事前に固定することの統計的・計算的結果は何か？
• RQ3 生成器と潜在分布を共同で学習することは、一般化性能とサンプル複雑性の向上に寄与するか？
• RQ4 共同推定器の学習速度は、固定された潜在分布を用いた標準GANのそれと比較してどうなるか？
• RQ5 OT-GANの文脈において、柔軟な潜在分布（ガウス・ミクスチャーよりも広い範囲）を学習することの理論的利点は何か？

主な発見

• 理論的分析により、潜在分布を事前に固定すると、特に生成器がすべてのモデリングの負担を負わされる場合に、サンプル複雑性が著しく悪化する可能性があることが示された。
• 生成器と潜在分布を共同で学習することで、サンプル複雑性が向上し、潜在分布がモデリングの一部の負担を担えるようになる。
• 提案された共同推定器は、ガウス・ミクスチャーの制限を超えて、任意のサブガウスィアン潜在分布を漸近的に学習可能である。
• らせん状およびスイスロールデータに対する実験では、固定された潜在分布を用いた標準GANと比較して、共同学習アプローチがより優れたモードカバレッジと分布マッチングを達成した。
• 特にデータが少ない状況において、生成器の統計的負担が軽減されるため、共同推定器はより速い収束とより安定した学習を示した。
• 共同推定器の理論的学習速度バウンドは、標準GANのそれよりもタイトであることが確認され、一般化性能の向上が裏付けられた。