[論文レビュー] Generative Multi-Adversarial Networks

Ishan Durugkar, Ian Gemp+1 more|arXiv (Cornell University)|Nov 5, 2016

Generative Adversarial Networks and Image Synthesis被引用数 56

ひとこと要約

本稿では、複数の識別器を用いることで訓練の安定性と速度を向上させる、Generative Multi-Adversarial Networks (GMAN) を提案する。多様で相関の薄い識別器を用いることで、元のミニマックス目的関数をそのままで信頼性のある訓練が可能となり、標準的な GAN よりも少ないイテレーションで高品質な画像生成が達成される。これは、新たに提案されたペアワイズ評価指標（GMAM）によって検証された。

ABSTRACT

Generative adversarial networks (GANs) are a framework for producing a generative model by way of a two-player minimax game. In this paper, we propose the \emph{Generative Multi-Adversarial Network} (GMAN), a framework that extends GANs to multiple discriminators. In previous work, the successful training of GANs requires modifying the minimax objective to accelerate training early on. In contrast, GMAN can be reliably trained with the original, untampered objective. We explore a number of design perspectives with the discriminator role ranging from formidable adversary to forgiving teacher. Image generation tasks comparing the proposed framework to standard GANs demonstrate GMAN produces higher quality samples in a fraction of the iterations when measured by a pairwise GAM-type metric.

研究の動機と目的

• 標準的な GAN における訓練の不安定性という長年の課題に取り組むこと、これはしばしばミニマックス目的関数に対するヒューリスティックな修正を要する。
• 元の、改ざんのないミニマックス目的関数を用いて信頼性のある訓練が可能なマルチ識別器フレームワークを開発すること。
• 独立して訓練された生成モデル同士を比較するための新しいペアワイズ評価指標、GMAM を導入すること。
• 複数の識別器が、敵対的でさえあれば、同時に柔軟な教師としても機能し、生成器の性能を向上させられることを示すこと。

提案手法

• 複数の識別器を並列に訓練する、GAN のマルチ識別器拡張である GMAN を提案する。各識別器は異なるアーキテクチャとドロップアウト率を有する。
• 識別器出力のソフトマックスアгрリゲーションを用いる GMAN∗ という変種を導入し、生成器の訓練を動的に制御する。
• 補助変数 Λ と対数シグモイド変換を用いた、制約なしのミニマックス定式化を導入し、エンドツーエンド最適化を可能にする。
• 生成器および識別器ネットワークにバッチ正規化と ReLU/Tanh 活性化関数を適用し、特徴量学習にはストライド付き畳み込みと転置畳み込みを用いる。
• AdaBoost.OL を適用し、未知または負のマージンを持つ弱学習器（識別器）を組み合わせることで、耐性を高める。
• ミニバッチを識別器間で分割する訓練戦略を実装し、勾配の相関を低減し、多様性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 ヒューリスティックなミニマックス目的関数の修正なしに、複数の識別器が GAN の訓練を安定化させられるか？
• RQ2 識別器の役割（敵対的から教師的へ）の変化が、生成器の性能に与える影響は何か？
• RQ3 マルチ識別器フレームワークは、標準的な GAN よりも少ないイテレーションでより高品質なサンプルを生成できるか？
• RQ4 独立して訓練された生成モデルを評価するための堅牢なペアワイズ指標は存在するか？
• RQ5 識別器のソフトマックスアグリゲーションは、生成器の訓練を自動的かつ適応的に制御できるか？

主な発見

• GMAN は、ヒューリスティックな修正なしに、元のミニマックス目的関数を用いて、標準的な GAN よりも高品質な画像サンプルを生成した。
• GMAN∗ は訓練時間を顕著に短縮し、標準的な GAN が要するイテレーションのわずか数分の１で、より高い性能に到達した。
• 提案された GMAM 指標は、独立して訓練されたモデル間の性能差を効果的に定量化できた。
• 異なるアーキテクチャとドロップアウト率を持つ多様な識別器を用いることで、一般化性能とサンプル品質が向上した。
• GMAN∗ におけるソフトマックスアグリゲーションにより、自動的かつ適応的な訓練制御が可能となり、収束性とサンプル忠実度が向上した。
• MNIST、CelebA、CIFAR-10 における実験では、すべてのベンチマークでサンプル品質と訓練安定性の向上が一貫して観察された。