[論文レビュー] Versatile Auxiliary Classifier with Generative Adversarial Network (VAC+GAN)

Shabab Bazrafkan, Hossein Javidnia+1 more|arXiv (Cornell University)|May 1, 2018

Generative Adversarial Networks and Image Synthesis参考文献 8被引用数 3

ひとこと要約

本稿では、生成器を介してクラス固有の損失を逆伝播可能にする平行な分類器を追加することで、条件付き GAN を強化する包括的フレームワーク VAC+GAN を提案する。従来の手法とは異なり、損失関数を変更せずにあらゆる GAN アーキテクチャで動作し、生成サンプルのクラス固有の品質と多様性を顕著に向上させる。実験では、顔の性別に特化した生成タスクにおいて、優れた指標を達成した。

ABSTRACT

One of the most interesting challenges in Artificial Intelligence is to train conditional generators which are able to provide labeled adversarial samples drawn from a specific distribution. In this work, a new framework is presented to train a deep conditional generator by placing a classifier in parallel with the discriminator and back propagate the classification error through the generator network. The method is versatile and is applicable to any variations of Generative Adversarial Network (GAN) implementation, and also gives superior results compared to similar methods.

研究の動機と目的

• 既存の条件付き GAN が多様な GAN アーキテクチャにおいて、明確に分離されたクラス固有のサンプルを生成する能力に限界を示しているのを是正すること。
• 特に出力次元が異なる場合に顕著な不安定性や収束問題を引き起こす ACGAN や CGAN のような手法における、識別器と分類器の損失を統合するアプローチの課題を克服すること。
• 識別器や生成器の構造に関係なく、収束するあらゆる GAN フレームワークと互換性を持つ統一的かつ即挿し可能なソリューションを構築すること。
• 提案された分類器の逆伝播メカニズムが、生成サンプルのクラス分離性と多様性を向上させることを数学的に証明すること。
• 性別に特化した顔生成タスクにおいて、実験的に本手法の優れた性能を実証すること。

提案手法

• 生成器の出力に並列分類器ネットワークを追加し、分類損失を識別器の損失関数から分離する。
• 分類器のバイナリクロスエントロピー損失を生成器を介して逆伝播させることで、元の GAN の学習目的を変更せずにクラス固有の最適化を可能にする。
• 本手法が最適な分類器に収束することを数学的に証明しており、その最適分類器は $ C_{G,D}^{*} = \frac{p_{X_1}(\mathbf{x})}{p_{X_1}(\mathbf{x}) + p_{X_2}(\mathbf{x})} $ である。
• フレームワークは BEGAN に適用され、生成器の損失は BEGAN の目的関数と分類器の BCE 損失を組み合わせ、識別器の損失は標準的な BEGAN 損失を用いる。
• 分類器はネステロフモーメンタムで訓練され、生成器と識別器は特定のハイパーパramータ（lr=0.0001, β₁=0.5, β₂=0.999）を用いた ADAM オプティマイザを使用する。
• 潜在空間が二つの互いに素な部分空間（例：男性／女性の顔）に分割され、最初の次元がクラスを条件づけるために使用される。

実験結果

リサーチクエスチョン

• RQ1 GAN における識別器の損失から分類器を分離することで、元の GAN アーキテクチャを変更せずに学習安定性とクラス固有の生成性能を向上させることができるか？
• RQ2 生成器を介して分類誤差を逆伝播させることで、生成クラス間のジェンセン・ショーンハイマー距離が向上し、より良いクラス分離が達成されるか？
• RQ3 本手法は、識別器の出力がスカラーか画像出力かに関わらず、あらゆる GAN バリエーションに普遍的に適用可能か？
• RQ4 VAC+GAN は、マルチクラス生成タスクにおいて CGAN や ACGAN と比較して、より多様でクラス固有のサンプルを生成できるか？
• RQ5 本手法は、生成サンプルのクラス間相違性とクラス内多様性をどの程度向上させるか？

主な発見

• VAC+GAN フレームワークは、ベースラインの CBEGAN とは異なり、高い忠実度と明確なクラス特徴を持つ性別に特化した顔サンプルを効果的に生成した。
• 提案手法は、クラス内比較において UQI と SSIM のスコアが低く抑えられ（図 5 の青および紫の棒）、同じクラスに属するサンプル間の類似性が低減していることを示した。
• VAC+GAN ではクラス間類似性（図 5 の黄色の棒）が CBEGAN より顕著に低く抑えられており、異なるクラスからのサンプルがより明確に区別可能であることが確認された。
• 提案手法は、MSE、RMSE、MAE の値が高くなった（図 6）、生成画像のクラス内およびクラス間のばらつきが顕著に増加していることを示した。
• 数学的証明により、クラス分布がバランスしている場合に分類器損失が最大化され、最適なクラス分離が保証されることが示された。
• 分類器の訓練が分離されているため、非スカラー出力を持つ識別器を備えた GAN フレームワークに対しても、本手法が普遍的に適用可能であることが証明された。