[論文レビュー] BourGAN: Generative Networks with Metric Embeddings

Chang Xiao, Peilin Zhong+1 more|arXiv (Cornell University)|May 19, 2018

Generative Adversarial Networks and Image Synthesis被引用数 26

ひとこと要約

BourGANは、GANにおけるモード崩壊を解消するために、データモードをメトリック空間内の幾何的構造としてモデル化し、L2空間に埋め込むことで、対間距離を保存する。これにより、潜在次元の自動選定と、サンプリングにガウス・ミックス・モデルを用いることが可能となり、最近のGANの変種よりもモードカバレッジとサンプル品質が向上する。

ABSTRACT

This paper addresses the mode collapse for generative adversarial networks (GANs). We view modes as a geometric structure of data distribution in a metric space. Under this geometric lens, we embed subsamples of the dataset from an arbitrary metric space into the L2 space, while preserving their pairwise distance distribution. Not only does this metric embedding determine the dimensionality of the latent space automatically, it also enables us to construct a mixture of Gaussians to draw latent space random vectors. We use the Gaussian mixture model in tandem with a simple augmentation of the objective function to train GANs. Every major step of our method is supported by theoretical analysis, and our experiments on real and synthetic data confirm that the generator is able to produce samples spreading over most of the modes while avoiding unwanted samples, outperforming several recent GAN variants on a number of metrics and offering new features.

研究の動機と目的

• GANにおけるモード崩壊という、生成器がすべてのデータモードをカバーできないという、長年の問題に対処すること。
• データモードをメトリック空間内の幾何的構造としてモデル化し、データ分布のより構造的な表現を可能にすること。
• 対間距離分布を保存しながら、メトリック埋め込みを通じて潜在空間の次元を自動的に決定すること。
• メトリック埋め込みとガウス・ミックス・モデルを組み合わせて潜在ベクトルを生成することで、サンプルの多様性と品質を向上させること。
• 各構成要素に対して理論的裏付けを提供し、堅牢性と一般化性を保証すること。

提案手法

• 任意のメトリック空間からデータのサブサンプルをL2空間に距離保存変換を用いて埋め込む。
• 埋め込みプロセス中に、元のメトリック空間内のデータポイント間の対間距離分布を保持する。
• 埋め込み空間を用いて、生成器のための潜在空間の次元を自動的に決定する。
• 埋め込みデータ上にガウス・ミックス・モデル（GMM）を構築し、潜在ベクトルを生成して元のデータ分布を反映させる。
• GMMに基づく事前分布を組み込んだ、標準GANの目的関数を拡張する。これにより、訓練の安定性とモードカバレッジが向上する。
• GMM事前分布を生成器の潜在空間サンプリングプロセスに統合し、すべてのデータモードの探索を促進する。

実験結果

リサーチクエスチョン

• RQ1 メトリック空間におけるデータモードの幾何的モデリングは、GANにおけるモードカバレッジを向上させることができるか？
• RQ2 メトリック埋め込み中に対間距離を保持することは、より優れた潜在空間表現とサンプリングをもたらすか？
• RQ3 ハイパーパramータチューニングなしに、メトリック埋め込みを通じて潜在空間の次元を自動的に決定できるか？
• RQ4 GMMベースのサンプリングと拡張されたGAN目的関数を組み合わせることで、モード崩壊はどの程度軽減されるか？
• RQ5 サンプル多様性と分布の忠実度という観点から、最近のGANの変種と比較して、本手法はどのように差をつけるか？

主な発見

• BourGANは、ベースラインのGANと比較して、モード崩壊が顕著に低減した、多数のデータモードに広がるサンプルを効果的に生成した。
• 本手法は、合成データおよび実世界のデータセットの両方で、サンプル品質と多様性が向上し、標準指標において、いくつかの最近のGANの変種を上回った。
• 潜在空間の次元は、メトリック埋め込みプロセスによって自動的に決定され、手動でのチューニングが不要となった。
• 潜在ベクトルの生成にガウス・ミックス・モデルを用いることで、生成器が複雑なデータ分布をよりよく探索できるようになった。
• 理論的分析により、本手法の各構成要素が正当化されており、設計選択の妥当性と安定性が裏付けられた。
• 実験的結果により、拡張された目的関数が、生成器がすべての主要なデータモードをカバーするように効果的に導くことが確認された。