[論文レビュー] Some Theoretical Insights into Wasserstein GANs

Gérard Biau, Maxime Sangnier+1 more|arXiv (Cornell University)|Jun 4, 2020

Generative Adversarial Networks and Image Synthesis参考文献 85被引用数 17

ひとこと要約

この論文は、ニューラルネットワークでパラメータ化された1リプシッツ連続な識別器を用いた積分確率的測度の枠組みで、Wasserstein GAN（WGAN）のアーキテクチャを形式化することで、WGANの理論的洞察を提供する。実験的WGANの収束性を確立し、生成器と識別器の能力の間で重要なトレードオフを明らかにし、特に有限標本の状況やMNISTやFashion-MNISTといった実世界の画像データセットにおいて、より深い識別器が訓練の安定性を向上させ、モード崩壊を軽減することを示している。

ABSTRACT

Generative Adversarial Networks (GANs) have been successful in producing outstanding results in areas as diverse as image, video, and text generation. Building on these successes, a large number of empirical studies have validated the benefits of the cousin approach called Wasserstein GANs (WGANs), which brings stabilization in the training process. In the present paper, we add a new stone to the edifice by proposing some theoretical advances in the properties of WGANs. First, we properly define the architecture of WGANs in the context of integral probability metrics parameterized by neural networks and highlight some of their basic mathematical features. We stress in particular interesting optimization properties arising from the use of a parametric 1-Lipschitz discriminator. Then, in a statistically-driven approach, we study the convergence of empirical WGANs as the sample size tends to infinity, and clarify the adversarial effects of the generator and the discriminator by underlining some trade-off properties. These features are finally illustrated with experiments using both synthetic and real-world datasets.

研究の動機と目的

• ニューラルネットワークでパラメータ化された1リプシッツ連続な識別器を用いた積分確率的測度の枠組み内で、WGANのアーキテクチャを形式化すること。
• 標本サイズの増加に伴う、実験的WGANの漸近的および有限標本の収束性を調査すること。
• 統計的性能とモード崩壊の観点から、生成器と識別器の能力の間の対立的トレードオフを明確にすること。
• 合成データおよび実世界のデータセット（MNIST、Fashion-MNISTを含む）を用いた実験的検証により、理論的知見を検証すること。
• より大きな識別器の能力が、訓練の安定性と高いリCALLを向上させ、WGAN訓練におけるモード崩壊を緩和することを示すこと。

提案手法

• 深層ニューラルネットワークでパラメータ化された1リプシッツ連続な識別器を用いた積分確率的測度を用いたWGANの理論的分析。
• パラメータ化された生成器および1リプシッツ連続な識別器の族の上でのミニマックス問題としてのWGANの目的関数の形式化。
• 標本サイズの増加に伴う実験的WGANの収束性分析により、推定された生成器分布の一貫性を確立すること。
• 実データと生成データの分布の類似性を評価するため、1リプシッツ関数を用いたWasserstein距離を測度として用いること。
• 合成のガウス混合分布および実データセット（MNIST、Fashion-MNIST）を用いた実験的評価を行い、Wasserstein距離とリCALL指標を用いて性能を測定すること。
• 生成器と識別器の深さ（pおよびq）の体系的アブレーションを実施し、分布近似およびモードカバレッジに与える影響を評価すること。

実験結果

リサーチクエスチョン

• RQ1 生成器および識別器の能力が、有限標本および漸近的状況下でのWGANの収束性と安定性にどのように影響を与えるか？
• RQ2 識別器に課された1リプシッツ制約とWGANの最適化特性との間の理論的関係は何か？
• RQ3 分布近似およびモードカバレッジの観点から、生成器と識別器の能力のトレードオフはどのように現れるか？
• RQ4 リCALL指標で測定した場合、より深い識別器はWGAN訓練におけるモード崩壊をどの程度軽減するか？
• RQ5 高次元の実世界データセット（MNISTやFashion-MNISTなど）において、実験的WGANの理論的収束保証を実験的に検証できるか？

主な発見

• より深い識別器は、複数の実験において平均リCALLが向上することで、訓練の安定性を著しく向上させ、モード崩壊を軽減することが実証された。
• WGAN訓練における最悪のパフォーマンスは、生成器が深く（p=7）かつ識別器が浅い（q=3）場合に発生し、能力の間の重要なトレードオフを確認した。
• 識別器の深さqが増加するにつれて、生成分布の平均リCALLが向上し、真のデータモードのカバレッジが向上することが示された。
• 合成データおよび実世界のデータセットの両方において、実験的分布と生成分布の間のWasserstein距離は、識別器の深さが増加するにつれて減少し、特にpが中程度の値のとき顕著であった。
• MNISTおよびFashion-MNISTにおける実験結果から、より大きな識別器は、事前学習済み分類器からの特徴埋め込み間のWasserstein距離で測定した分布近似が向上することを確認した。
• 有限標本の実験により、実験的WGANの理論的収束が裏付けられ、標本サイズの増加に伴い分布類似性が一貫して向上し、最適な能力バランスが達成された。