[論文レビュー] Global Convergence to the Equilibrium of GANs using Variational Inequalities

Ian Gemp, Sridhar Mahadevan|arXiv (Cornell University)|Aug 4, 2018

Model Reduction and Neural Networks参考文献 54被引用数 27

ひとこと要約

本稿では、変分不等式を活用することで、Wasserstein線形二次GANS（LQ-GAN）設定においてグローバル収束を達成する、GANのための新規トレーニングアルゴリズム「Crossing-the-Curl」を提案する。この手法は、勾配降下とは直交する特定の方向を同定・追従することで、$Ø(N/k)$ の確率的収束レートを達成し、従来の勾配ベースのトレーニングにおける不安定性を解消する。

ABSTRACT

In optimization, the negative gradient of a function denotes the direction of steepest descent. Furthermore, traveling in any direction orthogonal to the gradient maintains the value of the function. In this work, we show that these orthogonal directions that are ignored by gradient descent can be critical in equilibrium problems. Equilibrium problems have drawn heightened attention in machine learning due to the emergence of the Generative Adversarial Network (GAN). We use the framework of Variational Inequalities to analyze popular training algorithms for a fundamental GAN variant: the Wasserstein Linear-Quadratic GAN. We show that the steepest descent direction causes divergence from the equilibrium, and convergence to the equilibrium is achieved through following a particular orthogonal direction. We call this successful technique Crossing-the-Curl, named for its mathematical derivation as well as its intuition: identify the game's axis of rotation and move "across" space in the direction towards smaller "curling".

研究の動機と目的

• 標準的なGANトレーニングアルゴリズムにおけるグローバル収束保証の欠如に対処すること。
• 最小的だが代表的なWasserstein LQ-GANフレームワークにおけるGANトレーニングの収束挙動を分析すること。
• 標準的勾配降下が勾配とは直交する方向を無視することで、均衡から逸脱することを同定すること。
• 特定の直交方向に従うことでグローバル収束を達成する新たなトレーニング手法を開発すること。
• 提案手法が合成的および現実世界の設定において、標準GANトレーニングを上回ることを実証的に示すこと。

提案手法

• GANにおける均衡問題の分析に、変分不等式を理論的枠組みとして用いる。これは凸最適化を一般化する。
• GANトレーニングにおける勾配降下が、ゲームのヤコビアンの単調性の欠如により、循環的かつ発散的挙動を示すことを同定する。
• 勾配に対して垂直に移動する新しい更新方向「Crossing-the-Curl」を導出。これはゲームのカール軸に一致し、均衡に到達する。
• LQ-GANモデルにおける平均、分散、線形変換パラメータの順次推定を段階的学習手順で適用する。
• 局所収束後に射影系上で外挿法を適用し、$Ø(N/k)$ のレートでグローバル収束を保証する。
• 多変量LQ-GANおよび深層ニューラルネットワーク設定（CIFAR-10およびガウス分布の混合）の両方で手法を検証する。

実験結果

リサーチクエスチョン

• RQ1 なぜ理論的に凸設定では保証されるが、LQ-GAN設定では標準的勾配ベースのGANトレーニングアルゴリズムがグローバルに収束しないのか？
• RQ2 勾配に対する直交方向が均衡問題において果たす役割は何か？なぜ収束のために不可欠なのか？
• RQ3 これらの直交方向に従う原理的で整合性のある手法を設計し、GANにおけるグローバル収束を達成できるか？
• RQ4 提案されたCrossing-the-Curl手法は、ディープラーニングベンチマークにおける標準GANトレーニングと比較して、実証的にどのように異なるか？
• RQ5 提案手法の理論的収束レートは何か？次元数の増加に伴いどのようにスケーリングされるか？

主な発見

• LQ-GANにおける標準的同時勾配降下は、ゲームのヤコビアンの非単調構造のため、循環的かつ発散的軌道を示す。
• GANトレーニングにおける勾配降下の最も急な降下方向は、直交方向での関数値が一定を保つため、均衡に収束しない。
• 変分不等式に基づく新規アルゴリズムであるCrossing-the-Curlは、N次元LQ-GAN設定において高確率でグローバル収束を達成する。
• 段階的学習手順の順次的性質のおかげで、$Ø(N/k)$ の確率的収束レートを達成する。ここで$k$は反復回数である。
• ガウス分布の混合およびCIFAR-10における実験結果から、$-JF$ 項をわずかに導入することで収束が加速され、サンプル品質が向上することが示された。
• 定性的および定量的指標の両面で、標準GANトレーニングを上回る性能を示し、モードカバレッジが向上し、トレーニングの不安定性が低減された。