[論文レビュー] Towards Principled Methods for Training Generative Adversarial Networks

Martín Arjovsky, Léon Bottou|arXiv (Cornell University)|Jan 17, 2017

Generative Adversarial Networks and Image Synthesis参考文献 10被引用数 355

ひとこと要約

この論文は GANs の学習ダイナミクスを分析し、不安定さの原因と勾配の消失を説明し、より滑らかな指標とノイズを用いて訓練を安定化させる原理的ルートを提案します。低次元のサポートを持つ識別器の挙動に関する理論的結果を提供し、勾配信号を改善するノイズベースの戦略を導入します。

ABSTRACT

The goal of this paper is not to introduce a single algorithm or method, but to make theoretical steps towards fully understanding the training dynamics of generative adversarial networks. In order to substantiate our theoretical analysis, we perform targeted experiments to verify our assumptions, illustrate our claims, and quantify the phenomena. This paper is divided into three sections. The first section introduces the problem at hand. The second section is dedicated to studying and proving rigorously the problems including instability and saturation that arize when training generative adversarial networks. The third section examines a practical and theoretically grounded direction towards solving these problems, while introducing new tools to study them.

研究の動機と目的

• GANの訓練がなぜ不安定になるのか、識別器が改善するにつれて識別器主導の更新がなぜ劣化するのかを説明する。
• 元の GAN 目的関数と -log D の代替が勾配挙動に及ぼす影響を特徴づける。
• より滑らかな発散とノイズベースの正則化を用いて不安定性を解消する原理的な方向性を提案する。
• GANの学習ダイナミクスを研究・改善するための理論的結果と実践的ツールを提供する。

提案手法

• 分離された領域または低次元サポートの下で、識別器の最適性とそれが生成器の勾配に与える影響をモデル化する。
• 最適な D がデータ／サポート領域で正確さ 1 かつ勾配がゼロになることを示す完璧識別定理を証明する。
• 元の GAN 目的関数と -log D の代替の下での勾配消失を分析する。
• 入力（および生成器サンプル）にノイズを導入して分布を平滑化し、ノイズ付き分布下の勾配式を導出する。
• ノイズのある定式化が生成器の更新を柔らかい発散目的関数（ノイズ付き分布を用いた JSD）に合わせることを示す。
• 最適化の景観を滑らかにするため、より滑らかな指標と共同ノイズ注入へ移行する実用的な安定化への道を提案する。

実験結果

リサーチクエスチョン

• RQ1 識別器がより優れるにつれてGANの生成器の更新が劣化するのはなぜか。
• RQ2 元の GAN 目的関数と -log D の代替が勾配の消失または不安定性を生み出す条件はどのようなものか。
• RQ3 より滑らかな指標や入力/出力のノイズは GAN の学習を安定化し、生成器へより信頼できる勾配信号を提供できるか。
• RQ4 低次元サポートと完璧な識別器は訓練ダイナミクスと使用される発散にどのように影響するか。
• RQ5 ノイズを多く含む、離散化された分布での GAN 訓練の安定化を定量化・指針づけする理論的ツールは何か。

主な発見

• GANの分布はしばしば低次元の多様体上にあり、サポート上で勾配がゼロの完璧な識別器を可能にする。
• 分離されたまたは低次元のサポートの下で、最適な識別器は精度 1 かつほぼ全域で勾配ゼロを持つことがあり、元の目的関数を用いると生成器の勾配が消失する。
• -log D 目的関数を用いると KL と JSD との反転関係のため不安定な更新が生じ、ほぼ理想的な識別器ではノイズにより勾配が爆発することがある。
• 入力（および生成器サンプル）へ連続ノイズを加えると分布が滑らかになり、非退化な勾配を生み出しノイズ付き分布間の柔らかい発散に更新を整合させる。
• ノイズ付き識別器フレームワークは、データ多様体にサンプルを近づける勾配更新を生み出しつつ、過度に確からしいサンプルを抑制して安定化を促進する。
• ノイズレベルを徐々に低減する（アニール）ことで、生成器と識別器は徐々に真のデータ分布に一致させ、柔らかい JSD 目的関数を通じて揃えるのに役立つ。