[論文レビュー] Wasserstein Divergence for GANs

Jiqing Wu, Zhiwu Huang+3 more|arXiv (Cornell University)|Dec 4, 2017

Generative Adversarial Networks and Image Synthesis被引用数 5

ひとこと要約

本論文は、従来のWasserstein GAN（WGAN）で求められる厳密なk-Lipschitz制約を緩和する新しいWasserstein発散（W-div）を提案する。この手法により、より安定した学習が可能となる。W-divを目的関数として用いるGANフレームワーク、WGAN-divを導入し、CelebA-HQおよびLSUNデータセットにおけるプログレッシブグローミング訓練を含む複数のベンチマークで、最先端の性能を達成した。FIDスコアと視覚的品質の両面で向上が確認された。

ABSTRACT

In many domains of computer vision, generative adversarial networks (GANs) have achieved great success, among which the family of Wasserstein GANs (WGANs) is considered to be state-of-the-art due to the theoretical contributions and competitive qualitative performance. However, it is very challenging to approximate the $k$-Lipschitz constraint required by the Wasserstein-1 metric~(W-met). In this paper, we propose a novel Wasserstein divergence~(W-div), which is a relaxed version of W-met and does not require the $k$-Lipschitz constraint. As a concrete application, we introduce a Wasserstein divergence objective for GANs~(WGAN-div), which can faithfully approximate W-div through optimization. Under various settings, including progressive growing training, we demonstrate the stability of the proposed WGAN-div owing to its theoretical and practical advantages over WGANs. Also, we study the quantitative and visual performance of WGAN-div on standard image synthesis benchmarks of computer vision, showing the superior performance of WGAN-div compared to the state-of-the-art methods.

研究の動機と目的

• 判別器に課せられる困難なk-Lipschitz制約によって引き起こされるWGANの学習不安定性を解消すること。
• Wasserstein距離の理論的利点を保ちつつ、実用的に最適化可能な緩和された発散測度を設計すること。
• プログレッシブグローミングを用いた高解像度画像生成において、学習安定性と性能の向上を実証すること。
• 理論的に根拠を持つ対称的発散を提供し、GAN学習における最適化による忠実な近似を可能にすること。

提案手法

• C¹関数の下での、本物と偽物のデータ分布の期待値の差の下界に等しい、Wasserstein発散（W-div）を定義する。この定義には、勾配ノルムに対するペナルティ項が含まれる。
• 勾配のLpノルムを含むペナルティ項を導入し、ハイパーパrameter kでスケーリングすることで、厳密な1-Lipschitz制約を必要としない滑らかさの制御を実現する。
• W-divを用いたミニマックス最適化問題としてWGAN-divの目的関数を定式化し、判別器がW-divの近似を最小化するように学習させる。
• 勾配ペナルティ項の推定に、本物と偽物のデータポイントの間を補間するサンプリング戦略を用い、効果的な最適化を保証する。
• 256×256などの高解像度画像生成を実現するため、プログレッシブグローミング訓練スキーム内にWGAN-divフレームワークを適用する。
• Puの補間分布のための異なるサンプリング戦略に対して、手法のロバスト性を実験的に検証する。

実験結果

リサーチクエスチョン

• RQ1 厳密なk-Lipschitz制約を回避しつつ、Wasserstein距離の理論的利点を保つことができる緩和された発散測度を設計できるか？
• RQ2 提案されたW-divは、標準的なWGANと比較して、GANにおけるより安定した学習ダイナミクスをもたらすか？
• RQ3 特にプログレッシブグローミング訓練下で、WGAN-divは高解像度画像生成においてどの程度の性能を示すか？
• RQ4 Puの補間分布のためのサンプリング戦略の選択が、WGAN-divの最終的性能にどの程度影響を及えるか？
• RQ5 WGAN-divは、標準的な画像生成ベンチマークで、定量的および定性的に最先端の結果を達成できるか？

主な発見

• サンプリング戦略（1）を用いた場合、CelebA-HQでFréchet Inception Distance（FID）が14.9を達成し、すべてのテスト戦略においてWGAN-GP（17.0）およびCTGAN（17.5）を上回った。
• CelebA-HQおよびLSUNにおける視覚的結果から、WGAN-divはPGGANおよびWGAN-GPと比較して、よりシャープで多様性に富んだサンプルを生成した。
• Puの異なるサンプリング戦略に対しても一貫した優位性を示し、補間の選択に対してロバストで、感受性が低いことが示された。
• プログレッシブグローミング訓練において、WGAN-divは安定した学習ダイナミクスを維持し、FIDスコアが向上した256×256の高品質画像を生成した。
• 理論的分析により、W-divが対称的であり、かつ本物と偽物の分布が等しい場合に限り0に収束することが確認され、適切な発散としての有効性が裏付けられた。
• 提案されたW-divが、分布が異なる場合には非正であり、かつ厳密に負であることが証明され、意味のある最適化信号が保証された。