[論文レビュー] JR-GAN: Jacobian Regularization for Generative Adversarial Networks.

Weili Nie, Ankit Patel|arXiv (Cornell University)|Jun 24, 2018

Model Reduction and Neural Networks参考文献 34被引用数 8

ひとこと要約

本稿では、2つの重要なヤコビ行列由来の収束問題である位相要因（虚数部と実数部の比が大きい固有値）と条件数要因（悪条件のヤコビ行列）を同時に軽減することで、訓練を安定化させる新しいGAN訓練手法、JR-GANを提案する。両要因を統合的に扱う正則化を構築することで、JR-GANは非常に安定した訓練と、複数のベンチマークで最先端の性能を達成する。

ABSTRACT

Generative adversarial networks (GANs) are notoriously difficult to train and the reasons for their (non-)convergence behaviors are still not completely understood. Using a simple GAN example, we mathematically analyze the local convergence behavior of its training dynamics in a non-asymptotic way. We find that in order to ensure a good convergence rate two factors of the Jacobian should be extit{simultaneously} avoided, which are (1) Phase Factor: the Jacobian has complex eigenvalues with a large imaginary-to-real ratio, (2) Conditioning Factor: the Jacobian is ill-conditioned. Previous methods of regularizing the Jacobian can only alleviate one of these two factors, while making the other more severe. From our theoretical analysis, we propose the Jacobian Regularized GANs (JR-GANs), which insure the two factors are alleviated by construction. With extensive experiments on several popular datasets, we show that the JR-GAN training is highly stable and achieves near state-of-the-art results both qualitatively and quantitatively.

研究の動機と目的

• 非漸近的枠組みにおいて、GANの局所的訓練ダイナミクスを分析することで、GANの収束不能な挙動を理解すること。
• GANの訓練における収束を妨げる2つの主要なヤコビ行列関連要因（位相要因と条件数要因）を同定すること。
• 両要因を同時に軽減できる正則化手法を開発し、従来の手法が片方の要因にのみ対処するという限界を克服すること。
• 提案手法が標準データセットにおいて安定した訓練と最先端の結果をもたらすことを実証すること。

提案手法

• 本手法は、生成器のヤコビ行列の位相要因と条件数要因を明示的に制御する、新しいヤコビ行列正則化項を導入する。
• 正則化は、ヤコビ行列の固有値が虚数部対実数部比および条件数の観点で良好に保たれるように設計されている。
• 正則化はGANの訓練目的に統合され、最適化中に望ましいヤコビ行列の性質を促進するように生成器の損失を変更する。
• 理論的分析により、提案された正則化が、スペクトル的および条件数の両方の性質を同時に制御することで、より良い局所的収束速度を保証することが示された。
• 本手法は、アーキテクチャの変更なしに標準GANフレームワークにエンドツーエンドで適用可能であり、広範な適用可能性を有する。

実験結果

リサーチクエスチョン

• RQ1 GANの訓練における不安定さと収束不良を引き起こす主なヤコビ行列の性質は何か？
• RQ2 既存のヤコビ行列正則化手法がGANの訓練を完全に安定化できない理由は何か？
• RQ3 1つの正則化戦略で、ヤコビ行列の位相要因と条件数要因を同時に軽減できるか？
• RQ4 提案された正則化は、多様なデータセットにおいて訓練の安定性と生成品質にどのように影響するか？

主な発見

• 提案されたJR-GAN手法は、生成器のヤコビ行列の位相要因と条件数要因を統合的に制御することで、非常に安定した訓練ダイナミクスを達成する。
• 実験の結果、JR-GANは訓練の安定性と収束速度において、既存の正則化手法を上回ることが示された。
• 複数のベンチマークデータセットにおいて、JR-GANはほぼ最先端のFréchet Inception Distance（FID）スコアを達成し、優れた定量的性能を示した。
• 定性的な結果から、JR-GANは高精細で多様なサンプルを生成することが確認され、モードカバレッジと画像品質の向上が示された。