[論文レビュー] Reducing Noise in GAN Training with Variance Reduced Extragradient

Tatjana Chavdarova, Gauthier Gidel+2 more|arXiv (Cornell University)|Apr 18, 2019

Generative Adversarial Networks and Image Synthesis参考文献 41被引用数 32

ひとこと要約

本論文は SVRE、確率的分散削減付き外勾配法（stochastic variance-reduced extragradient algorithm）を導入し、GAN訓練における勾配ノイズを軽減して収束性を改善することを目的とする。MNIST、CIFAR-10、SVHN、および ImageNet 系列で強力な実証的成果を示している。

ABSTRACT

We study the effect of the stochastic gradient noise on the training of generative adversarial networks (GANs) and show that it can prevent the convergence of standard game optimization methods, while the batch version converges. We address this issue with a novel stochastic variance-reduced extragradient (SVRE) optimization algorithm, which for a large class of games improves upon the previous convergence rates proposed in the literature. We observe empirically that SVRE performs similarly to a batch method on MNIST while being computationally cheaper, and that SVRE yields more stable GAN training on standard datasets.

研究の動機と目的

• ランゲーム最適化におけるGAN訓練への確率的勾配ノイズがどのように影響するかを強調する。
• GANs における勾配分散を低減するためにSVREを提案・定式化する。
• 強反復性およびコーソアセリティ仮定の下でSVREの理論的収束保証を提供する。
• 標準データセットでSVREを経験的に評価し、安定性、収束速度、サンプル品質を評価する。
• GAN設定においてSVREをバッチ外挙（batch extragradient）および標準的な確率的手法と比較する。

提案手法

• GAN訓練を生成器と識別器の二人プレイヤーの微分可能なゲームとして定式化する。
• SVRGの勾配推定と外勾配（EG）フレームワークを組み合わせた確率的分散削減付き外勾配（SVRE）を導入する。
• スナップショット omega^S と対応する全勾配 mu^S を用いて、各プレイヤーの偏りのない勾配推定 d_i^G および d_i^D を構築する。
• コーソアセリティ由来の定数に導かれた非一様サンプリング pi_i を取り入れ、SVRE の幾何学/モンテカルロ風のエポックサンプリング（q-記憶法）を実装する。
• Assumption 1（強い単調性、コーソアセリティ、正則性）の下で適切なステップサイズを用いた期待二乗誤差の減衰を示す収束定理（定理2）を提供する。
• SEGのノイズ誘発発散とSVREの耐性を示す動機づけとなる単純な確率的二線形ゲームを提示する。

実験結果

リサーチクエスチョン

• RQ1 二人プレイヤーゲームとして定式化したGAN訓練における確率的勾配ノイズは収束性にどのように影響するか。
• RQ2 分散削減技術をゲーム最適化に拡張して安定性と収束を改善できるか。
• RQ3 強い単調性、コーソアセリティ、正則性の観点からSVREの理論的収束保証は何か。
• RQ4 SVRE ベースの GAN が標準のバッチ外挙法や素の確率的手法と比較して標準データセットで競争力のある、または優れた性能と安定性を達成するか。

主な発見

データセット	SG-A FID	SE-A FID	SVRE FID	WS-SVRE FID
CIFAR-10	21.70	18.65	23.56	16.77
SVHN	5.66	5.14	4.81	4.88

• 確率的勾配は GAN 系のゲームにおける外勾配法で発散を招くことがあり、バッチ法が収束しても同様のゲームで発散することがある。
• SVRE は外勾配フレームワーク内で SVRG 型の勾配推定を活用することでゲームにおける勾配分散を低減する。
• 理論的結果: SVRE は局所的な強い単調性とコーソアセリティの下で収束し、収束速度は mu、ell、正則性定数に依存する（定理2）。
• 経験的には、MNISTではバッチ法と同様の性能を示し計算コストが低く、深層アーキテクチャを用いた CIFAR-10 および SVHN でより安定した GAN 訓練を実現する。
• 深層アーキテクチャを用いた CIFAR-10 および SVHN で、SVREは SG-A および SE-A のベースラインと比べてより良い FID スコアを達成した（CIFAR-10: 16.77 for WS-SVRE vs 21.70 SG-A, 18.65 SE-A, 23.56 SVRE; SVHN: 4.88 WS-SVRE vs 5.66 SG-A, 5.14 SE-A, 4.81 SVRE）。
• WS-SVRE（暖機付きの SVRE）バリアントは、ベースラインの不安定性の後も性能を改善し続けることができ、発散を伴わない。