[論文レビュー] On Characterizing GAN Convergence Through Proximal Duality Gap

Sahil Sidheekh, Aroof Aimen+1 more|arXiv (Cornell University)|May 11, 2021

Model Reduction and Neural Networks参考文献 39被引用数 5

ひとこと要約

本稿では、近接正則化項λを組み込むことで、非ナッシュ均衡に対しても一般化された従来の双対ギャップを拡張した、GANの収束を測る新規の収束指標であるProximal Duality Gap (DG^λ) を導入する。理論的および実験的に、DG^λがより広い均衡のクラスにおいてGANの収束を効果的にモニタリングでき、FIDおよびISと強く相関することを示し、客観的な訓練モニタリングとハイパーパrameterチューニングを可能にする。

ABSTRACT

Despite the accomplishments of Generative Adversarial Networks (GANs) in modeling data distributions, training them remains a challenging task. A contributing factor to this difficulty is the non-intuitive nature of the GAN loss curves, which necessitates a subjective evaluation of the generated output to infer training progress. Recently, motivated by game theory, duality gap has been proposed as a domain agnostic measure to monitor GAN training. However, it is restricted to the setting when the GAN converges to a Nash equilibrium. But GANs need not always converge to a Nash equilibrium to model the data distribution. In this work, we extend the notion of duality gap to proximal duality gap that is applicable to the general context of training GANs where Nash equilibria may not exist. We show theoretically that the proximal duality gap is capable of monitoring the convergence of GANs to a wider spectrum of equilibria that subsumes Nash equilibria. We also theoretically establish the relationship between the proximal duality gap and the divergence between the real and generated data distributions for different GAN formulations. Our results provide new insights into the nature of GAN convergence. Finally, we validate experimentally the usefulness of proximal duality gap for monitoring and influencing GAN training.

研究の動機と目的

• GAN訓練のモニタリングにおいて、ナッシュ均衡への収束に依存する従来の双対ギャップ（DG）の限界を解消すること—実際には常に満たされるわけではない条件である。
• GANの損失曲線が直感的でない振る舞いを示すことが、訓練進捗の客観的評価を困難にすることを克服すること。
• 特に正則化GANの定式化において、ナッシュ均衡でないが安定した定常点に対しても適用可能な一般化された収束指標の開発。
• FIDおよびISで測定される生成データ分布の品質と、DG^λとの理論的・実験的関係を確立すること。
• 特にディスクライマー対ジェネレーターの更新比に関して、DG^λを用いたハイパーパrameterチューニングの有効性を示すことにより、GAN訓練の安定性を向上させること。

提案手法

• 現在のパラメータ構成θ₀を用いて、元のGAN損失に正則化項λ‖θ − θ₀‖²を加えた近接GAN目的関数を定義する。
• 近接GAN目的関数の双対ギャップとしてProximal Duality Gap (DG^λ) を導入し、近接正則化下での単一的逸脱による潜在的利得を測定する。
• 理論的に、DG^λがゼロであることと、GANパラメータがλ-近接均衡にあることが同値であることを示す。これはナッシュ均衡を一般化する。
• さまざまなGAN定式化において、DG^λと実データ分布および生成データ分布の差分の間の理論的関係を確立する。
• MNIST、CIFAR-10、CelebAでWGANを用いてDG^λを実験的に検証し、訓練中にFIDおよびISとの相関を計算する。
• DG^λを損失の代理として用い、ディスクライマー対ジェネレーターの更新比（N）をチューニングし、DG^λを最小化し、サンプル品質を最大化する最適なハイパーパrameter範囲を同定する。

実験結果

リサーチクエスチョン

• RQ1 GANはナッシュ均衡でない、例えば安定な定常点においても、実データ分布を学習できるか？
• RQ2 GANがナッシュ均衡に収束しない場合、標準的な双対ギャップ（DG）は収束モニタリングとして機能しなくなるか？
• RQ3 正則化下でも有効に機能する、非ナッシュ状況においても有効な一般化された双対ギャップ指標を構築できるか？
• RQ4 異なるデータセットおよび訓練ダイナミクスにおいて、近接双対ギャップ（DG^λ）はFIDやISといった標準的なGAN評価指標とどの程度相関するか？
• RQ5 DG^λは、ディスクライマーとジェネレーターの更新比のようなハイパーパrameterチューニングを、客観的に支援できるか？

主な発見

• MNISTでは、DG^λとFIDの相関が0.957、ISと-0.892であり、両方とも強い相関を示す。
• CIFAR-10では、DG^λとFIDの相関が0.738、ISと-0.854であり、サンプル品質と強い整合性を示す。
• CelebAでは、DG^λとFIDの相関が0.699、ISと-0.524であり、複雑なデータセットに対しても有効であることを確認する。
• λが小さい（≤1）場合、すべてのデータセットでDG^λは安定的かつゼロに近いまま維持され、近接正則化に対して頑健であることが示される。
• λが閾値を超えると（CIFAR-10およびCelebAでは10¹、MNISTでは10⁴）、DG^λは急激に増加し、標準DGに収束する。これは理論的同等性が極限において成立することを確認する。
• ハイパーパrameterチューニングにおいて、DG^λは最適な更新比を特定する：図5の青色のように、DG^λはバランス型またはジェネレーター有利の更新（N ≤ 5）では低く保たれるが、N ≥ 8の高めのNでは急激に上昇（赤）し、サンプル品質の低下に対応する。