[論文レビュー] Loss-Sensitive Generative Adversarial Networks on Lipschitz Densities

Guo-Jun Qi|arXiv (Cornell University)|Jan 23, 2017

Generative Adversarial Networks and Image Synthesis参考文献 30被引用数 140

ひとこと要約

リプシュッツ正則化データ密度を持つ Loss-Sensitive GAN (LS-GAN) を導入し、分布的一貫性と一般化を証明し、Generalized LS-GAN (GLS-GAN) および Conditional LS-GAN (CLS-GAN) へ拡張する。

ABSTRACT

In this paper, we present the Lipschitz regularization theory and algorithms for a novel Loss-Sensitive Generative Adversarial Network (LS-GAN). Specifically, it trains a loss function to distinguish between real and fake samples by designated margins, while learning a generator alternately to produce realistic samples by minimizing their losses. The LS-GAN further regularizes its loss function with a Lipschitz regularity condition on the density of real data, yielding a regularized model that can better generalize to produce new data from a reasonable number of training examples than the classic GAN. We will further present a Generalized LS-GAN (GLS-GAN) and show it contains a large family of regularized GAN models, including both LS-GAN and Wasserstein GAN, as its special cases. Compared with the other GAN models, we will conduct experiments to show both LS-GAN and GLS-GAN exhibit competitive ability in generating new images in terms of the Minimum Reconstruction Error (MRE) assessed on a separate test set. We further extend the LS-GAN to a conditional form for supervised and semi-supervised learning problems, and demonstrate its outstanding performance on image classification tasks.

研究の動機と目的

• データ密度にリプシッツ条件を課してGANを正則化し、一般化を改善する。
• マージンを用いて実データサンプルを生成データより低くランク付けする損失関数を学習する。
• 損失関数の学習と生成器の最適化を交互に行い、平衡点に収束するトレーニング目的を開発する。
• 正則化パラメータが大きくなるにつれて LS-GAN が実データ密度へ収束することを示す。
• より広範な適用性のために一般化版および条件付き版へフレームワークを拡張する。

提案手法

• マージンベースの制約を持つ損失関数 L_theta と生成器 G_phi を定義する: L_theta(x) <= L_theta(G_phi(z)) - Delta(x, G_phi(z)).
• 非負のスラック xi を用いて制約を緩和し、次を同時に最適化する: min_theta, xi E_{x~P_data}[L_theta(x)] + lambda E_{x,z}[xi_{x,z}] subject to L_theta(x) - xi_{x,z} <= L_theta(G_phi(z)) - Delta(x,G_phi(z)).
• LS-GAN 目的関数 S(theta, phi) = E_{x~P_data}[L_theta(x)] + lambda E_{x,z}[(Delta(x,G_phi(z)) + L_theta(x) - L_theta(G_phi(z)))_+].
• 生成器を最適化するための二次目的 T(theta, phi) = E_{z~P_z}[L_theta(G_phi(z))] を定義する。
• 分布的一貫性を証明する: lambda -> ∞ のとき、リプシッツデータ密度 (Assumption 1) の下で P_G* は P_data に収束する。
• コスト関数 C(a) が C(a) >= a かつ a>=0 のとき C(a)=a とする一般化LS-GAN (GLS-GAN) を導入する; LS-GAN と WGAN が GLS-GAN の特殊ケースであることを示す。

実験結果

リサーチクエスチョン

• RQ1 リプシッツ正則化データ密度を持つ LS-GAN は生成データが実データ密度と一致することを保証するか？
• RQ2 一般化とサンプル品質の観点で、Wasserstein GAN および他の正則化 GAN と比較して LS-GAN の性能はどうか？
• RQ3 LS-GAN を一般化版 (GLS-GAN) および条件付き版 (CLS-GAN) に拡張して supervised/semi-supervised タスクに適用できるか？
• RQ4 リプシッツ仮定の下で LS-GAN の一般化境界とサンプル複雑性はどうなるか？
• RQ5 勾配ペナルティを用いてリプシッツ定数を制限すると、学習の安定性と一般化は向上しますか？

主な発見

• リプシッツ密度正則性の下で、lambda が大きくなると LS-GAN が生成するサンプルの密度が実データ密度へ収束する。
• リプシッツ損失と生成密度を持つナッシュ均衡が存在し、分布的一貫性を保証する（定理1）。
• 一般化境界が示される: 有限サンプル S_m と T_k がオラクル対応へ多項式的依存性で収束する（定理2および定理3）。
• GLS-GAN は LS-GAN および WGAN を特殊ケースとして包含し、異なるコスト関数 (C a) による正則化 GAN の族を提供する。
• リプシッツ定数を制限するための勾配ペナルティが提案され、サンプル複雑性を削減し安定性を向上させる（セクション5.2）。
• CLS-GAN は画像分類タスクで競争力のある性能を示し、教師あり/半教師あり拡張を示す（セクション8）。