[論文レビュー] Lipschitz Generative Adversarial Nets

Zhiming Zhou, Jiadong Liang+6 more|arXiv (Cornell University)|Feb 15, 2019

Generative Adversarial Networks and Image Synthesis参考文献 24被引用数 38

ひとこと要約

この論文は Lipschitz GANs (LGANs) を導入し、識別器の Lipschitz 定数をペナルティすることで最適識別子の existence/uniqueness と Nash 平衡を証明し、WGAN よりも安定性とサンプル品質が向上することを示し、広範な実証的検証を行う。

ABSTRACT

In this paper, we study the convergence of generative adversarial networks (GANs) from the perspective of the informativeness of the gradient of the optimal discriminative function. We show that GANs without restriction on the discriminative function space commonly suffer from the problem that the gradient produced by the discriminator is uninformative to guide the generator. By contrast, Wasserstein GAN (WGAN), where the discriminative function is restricted to 1-Lipschitz, does not suffer from such a gradient uninformativeness problem. We further show in the paper that the model with a compact dual form of Wasserstein distance, where the Lipschitz condition is relaxed, may also theoretically suffer from this issue. This implies the importance of Lipschitz condition and motivates us to study the general formulation of GANs with Lipschitz constraint, which leads to a new family of GANs that we call Lipschitz GANs (LGANs). We show that LGANs guarantee the existence and uniqueness of the optimal discriminative function as well as the existence of a unique Nash equilibrium. We prove that LGANs are generally capable of eliminating the gradient uninformativeness problem. According to our empirical analysis, LGANs are more stable and generate consistently higher quality samples compared with WGAN.

研究の動機と目的

• GANs における勾配の情報性を動機づけ分析し、勾配の情報不足をトレーニング上の核心的課題として特定する。
• 識別器の規則性を強制する Lipschitz ペナルティ項を導入した LGANs を提案する。
• Lipschitz 制約の下で最適識別子の存在と一意性、および一意の Nash 平衡を確立する。
• LGANs が勾配の情報不足を排除し、生成器を実データ分布へ導くことを示す。
• WGAN と比較した安定性とサンプル生成の質の向上を実証的に示す。

提案手法

• 識別器の目的関数に Lipschitz ペナルティ項 lambda * k(f)^2 を追加して LGANs を定義する。
• 穏当な損失関数条件を採用する: phi' > 0, varphi' < 0, 二階導関数が非負、phi'(a)+varphi'(a)=0 となる点 a の設定。
• これらの損失と Lipschitz ペナルティの下で f* の existence/uniqueness を証明する（定理1）。
• LGANs の下で境界付け関係と勾配の方向を特徴付ける（定理2–4）。
• MaxGP のような実用的な正則化手法を議論し、Lipschitz 定数を直接 penalize（サンプリング補間と最大勾配）。
• 勾配挙動、安定性、教師なし画像生成ベンチマークを含む LGANs と WGAN の実証分析を実施。

実験結果

リサーチクエスチョン

• RQ1 Lipschitz 制約は GAN 判別器の勾配の情報不足を解消し、情報性のある生成器の更新を保証するか？
• RQ2 LGANs は最適識別子の存在/一意性、および P_r と P_g を結ぶ一意の Nash 平衡を保証できるか？
• RQ3 LGANs は Wasserstein ベースの GAN と比較して標準的なベンチマークでより安定した学習と高品質なサンプルを生み出すか？

主な発見

Objective	CIFAR-10 IS	CIFAR-10 FID	Tiny ImageNet IS	Tiny ImageNet FID
x	7.68±0.03	18.35±0.12	8.66±0.04	16.47±0.04
exp(x)	8.03±0.03	15.64±0.07	8.67±0.04	14.90±0.07
-log(σ(-x))	7.95±0.04	16.47±0.11	16.47±0.11	15.05±0.07
x+√(x^2+1)	7.97±0.03	16.03±0.09	16.03±0.09	15.11±0.06
(x+1)^2	7.97±0.04	15.90±0.09	15.90±0.09	15.72±0.11
max(0,x+1)	7.91±0.04	16.52±0.12	16.52±0.12	15.75±0.06

• 穏やかな損失条件と Lipschitz ペナルティの下で最適識別関数の existence と uniqueness を達成する（定理1）。
• LGANs は独自の Nash 平衡を確立し、P_r = P_g かつ Lipschitz 定数 k(f*) = 0（定理2 & 4）。
• LGANs では最適識別子が生成サンプルの勾配方向を実データへ向かうようにし、勾配の情報不足を緩和する（定理2–4）。
• 経験的結果は LGANs が一般に WGAN より安定しており、教師なし画像生成タスクで高品質なサンプルを生み出すことを示し、いくつかの損失選択が良好に機能（表2）。
• MaxGP および関連する Lipschitz 対応ペナルティは学習を安定化させ、他の正則化より実践的に優れることがある（MaxGP の議論）。
• phi/varphi 損失の多様な組み合わせ（exp、-log(sigma(-x))、x+sqrt(x^2+1) を含む）を持つ LGANs は CIFAR-10 および Tiny ImageNet で有望な IS/FID スコアを達成。