[論文レビュー] BEGAN: Boundary Equilibrium Generative Adversarial Networks

David Berthelot, Thomas Schumm+1 more|arXiv (Cornell University)|Mar 31, 2017

Generative Adversarial Networks and Image Synthesis参考文献 16被引用数 744

ひとこと要約

BEGANは境界平衡機構を備えたオートエンコーダ判別器を導入し、生成器と識別器のバランスをとり、Wassersteinに基づく損失と安定した高品質な画像生成の収束測度を導出する。

ABSTRACT

We propose a new equilibrium enforcing method paired with a loss derived from the Wasserstein distance for training auto-encoder based Generative Adversarial Networks. This method balances the generator and discriminator during training. Additionally, it provides a new approximate convergence measure, fast and stable training and high visual quality. We also derive a way of controlling the trade-off between image diversity and visual quality. We focus on the image generation task, setting a new milestone in visual quality, even at higher resolutions. This is achieved while using a relatively simple model architecture and a standard training procedure.

研究の動機と目的

• 訓練の不安定性とモード崩壊を緩和する安定なGANフレームワークを動機づける。
• 訓練中に生成器と識別器のバランスを取るための平衡機構を提案する。
• オートエンコーダの再構成誤差に適用されたWasserstein距離の下限に基づく損失を開発する。
• 収束測度を導入し、画像の多様性と視覚的品質をどのようにコントロールするかを分析する。
• シンプルなアーキテクチャで高品質・高解像度の画像生成を実証する。

提案手法

• 識別器としてオートエンコーダを用いる（EBGANスタイル）。
• オートエンコーダ再構成損失 L(v)=|v−D(v)|^η を η∈{1,2} で定義する。
• オートエンコーダの損失分布間のWasserstein距離の下限を導出し、識別器に対してその下限を最大化する。
• 実画像の再構成と偽画像の再構成をバランスさせる平衡項と多様性比 γ を導入する。
• コントロール変数 k_t で更新する境界平衡GAN（BEGAN）目的を実装する。更新式は k_{t+1}=k_t+λ_k(γL(x)−L(G(z)))。
• グローバル収束測度 M_global = L(x) + |γL(x) − L(G(z_G))| を提供し、訓練のモニタリングへの利用について議論する。

実験結果

リサーチクエスチョン

• RQ1 平衡制御器を備えたオートエンコーダベースの識別器は、GANの安定かつ速い収束をもたらすのか？
• RQ2 γとk_tフィードバックによるバランスが画像の多様性と視覚品質にどう影響するか？
• RQ3 オートエンコーダ損失のWasserstein距離ベースの下限がGAN訓練の有効な収束代理指標となるか？
• RQ4 32×32 から 256×256 までの解像度で、安定性とリアリズムの観点からBEGANはどう機能するか？
• RQ5 モード崩壊の回避とサンプル品質の向上において、平衡を維持することの影響は何か？

主な発見

• BEGANは複雑な交互的手順なしに安定で高速な訓練を達成する。
• γ-多様性制御により、画像の多様性と視覚品質の明確なトレードオフが可能になる。
• 収束測度 M_global は画像の忠実度と相関し、急速な収束が観察される。
• 定性的結果は CelebA様データで、様々なポーズと表情を持つ高品質で一貫した高解像度画像を示す。
• 実験は、平衡維持を通じた不均衡ネットワークへの頑健性を示す。
• Inception-scoreに類似した評価は、いくつかのGAN変種と比較して競争力があるか有利なパフォーマンスを示す（非教師あり設定内で）。