[論文レビュー] From GAN to WGAN

Lilian Weng|arXiv (Cornell University)|Apr 18, 2019

Generative Adversarial Networks and Image Synthesis被引用数 23

ひとこと要約

この論文は、学習を安定化させるために、元のGANのジェンセン・シャノン発散を Wasserstein 距離に置き換えた Wasserstein GAN (WGAN) を導入する。重みクリッピングを用いて評価者（critic）のリプシッツ連続性を強制し、Wasserstein 損失の双対形式を用いることで、滑らかで意味のある勾配信号が得られ、実データ分布と生成分布が重複がほとんどない場合でも、学習の安定性と収束性が向上する。

ABSTRACT

This paper explains the math behind a generative adversarial network (GAN) model and why it is hard to be trained. Wasserstein GAN is intended to improve GANs' training by adopting a smooth metric for measuring the distance between two probability distributions.

研究の動機と目的

• 標準 GAN の学習における不安定性と収束不能の問題を、JS や KL 発散のような滑らかでない発散の使用が原因として特定する。
• 分布の違いをより意味的かつ連続的に測定できる Wasserstein 距離に基づく学習目的を提案する。
• 実データ分布と生成データ分布の重複がほとんどない場合でも、安定した学習を可能にする。
• 分布が非重複の状態でも、Wasserstein 距離は滑らかで微分可能であるのに対し、JS 発散は不連続または未定義になることの違いを示す。
• 深層学習の文脈で Wasserstein 距離に必要なリプシッツ制約を満たす実用的手法（重みクリッピング）を導入する。

提案手法

• GAN の損失関数を、実データ分布 $p_r$ と生成器の分布 $p_g$ 間の Wasserstein 距離 $W(p_r, p_g) = \sup_{\|f\|_L \leq K} \mathbb{E}_{x\sim p_r}[f(x)] - \mathbb{E}_{x\sim p_g}[f(x)]$ に置き換える。
• Kantorovich-Rubinstein の双対性を用いて、Wasserstein 距離を K-リプシッツ連続関数 $f_w$ の最適化問題に変換する。
• 各勾配更新後に評価者ネットワークの重みを固定範囲 $[-c, c]$ にクリッピングすることで、評価者に K-リプシッツ連続性を強制する。
• 元の GAN のシグモイド出力の識別器を、Wasserstein 距離を直接推定する評価者に置き換え、対数確率の必要性を排除する。
• Adam などのモーメンタムベースの最適化手法とは異なり、RMSProp を評価者に使用して学習の安定性を向上させる。
• 評価者を二値分類器ではなく、Wasserstein 距離の特徴抽出器として扱い、目的を分類から距離学習に転換する。

実験結果

リサーチクエスチョン

• RQ1 標準 GAN が学習の不安定性とモード崩壊を示す理由は何か？ また、発散尺度の選択がこの問題にどのように寄与するか？
• RQ2 分布が非重複の状態でも、Wasserstein 距離が JS 発散 や KL 発散 と比べて分布差をどのように測定するか？
• RQ3 Wasserstein 距離を推定するように訓練された評価者ネットワークは、標準的な識別器よりも、生成器により安定的かつ情報豊かな勾配信号を提供できるか？
• RQ4 深層ニューラルネットワークにおいて、Wasserstein 距離に必要なリプシッツ連続性制約を満たす実用的手法は何か？
• RQ5 GAN の損失関数を Wasserstein 基盤のものに置き換えることで、学習収束性と生成サンプルの品質が向上するか？

主な発見

• Wasserstein 距離は、実データ分布と生成分布が非重複であっても、滑らかで連続的かつ意味のある分布差の測定を可能にする。これに対し、JS 発散は未定義または不連続になる。
• 重みクリッピングにより評価者に K-リプシッツ連続性を強制することで、WGAN の学習が安定化するが、著者らはこれが最適ではないと認めている。
• Wasserstein 距離の双対形から導かれる WGAN 損失関数は、生成サンプルの品質と相関が強く、学習中でも勾配が消失しない安定した信号を提供する。
• 実験結果から、特に分布が重複のない状況下でも、WGAN は標準 GAN よりも優れた学習安定性と収束性を示す。
• WGAN の評価者はもはや確率を出力せず、代わりに Wasserstein 距離を推定する。この値は、生成サンプルの実際の品質とより良い相関を示す。
• 本論文では、重みクリッピングは機能するが、リプシッツ制約を強制するための劣化した手法であると指摘しており、将来的には勾配ペナルティなどの代替手法の検討が望ましい。