[論文レビュー] Stabilizing GAN Training with Multiple Random Projections

Behnam Neyshabur, Srinadh Bhojanapalli+1 more|arXiv (Cornell University)|May 22, 2017

Image Processing and 3D Reconstruction参考文献 18被引用数 71

ひとこと要約

この論文は、データの異なるランダムな低次元射影をそれぞれ視点とする識別器群に対して単一の生成器を訓練する方法を提案し、GANの訓練を安定化させ、サンプル品質を向上させる。実験結果は、従来の単一識別器GANより高品質な画像を示す。

ABSTRACT

Training generative adversarial networks is unstable in high-dimensions as the true data distribution tends to be concentrated in a small fraction of the ambient space. The discriminator is then quickly able to classify nearly all generated samples as fake, leaving the generator without meaningful gradients and causing it to deteriorate after a point in training. In this work, we propose training a single generator simultaneously against an array of discriminators, each of which looks at a different random low-dimensional projection of the data. Individual discriminators, now provided with restricted views of the input, are unable to reject generated samples perfectly and continue to provide meaningful gradients to the generator throughout training. Meanwhile, the generator learns to produce samples consistent with the full data distribution to satisfy all discriminators simultaneously. We demonstrate the practical utility of this approach experimentally, and show that it is able to produce image samples with higher quality than traditional training with a single discriminator.

研究の動機と目的

• GAN訓練の高次元での安定性を、識別器の支配を抑えることによって向上させる。
• 部分的な視点で学習された生成器がデータ分布全体を再現できるように一貫性を維持する。
• 複数のランダム射影が、単一の識別器 GAN よりも高品質な生成画像を生み出すことを実証する。
• 画像データに対するランダム射影識別器を適用する実践的実装ガイダンスを提供する。

提案手法

• データのランダムな低次元射影を通じて動作する複数の識別器 {Dk} に対して生成器 G を訓練する。
• 画像のような射影入力を作成するために、ランダム Gaussian フィルターを用いた畳み込み層として射影を実現する。
• 識別器はそれぞれの射影特有の損失を最大化する。一方、生成器は全識別器に跨るこれらの損失の平均を最小化する。
• 形式的には min_G max_{D1,...,DK} sum_k V(Dk,G) を最適化する where V(Dk,G) = E_x~Px[log Dk(Wk^T x)] + E_z~Pz[log(1 - Dk(Wk^T G(z)))]
• 情報ボトルネックを導入するために m < d のランダム射影を用い、G への安定した勾配フローを促進する。
• 十分な射影に沿って周辺分布が一致することが、滑らかな仮定の下で全体の結合分布が一致することを理論的に正当化する。

実験結果

リサーチクエスチョン

• RQ1 複数の低次元射影に対して生成器を訓練することは、単一の全視野識別器よりも強く持続的な勾配を提供するのか。
• RQ2 生成器は複数の部分視点識別器を満たすことで全データ分布を学習できるのか。
• RQ3 射影の数 K は訓練の安定性とサンプル品質にどのように影響するのか。
• RQ4 高次元の画像生成における安定性と品質に影響を与える実装上の選択肢（アーキテクチャ、射影）とは何か。
• RQ5 本手法は顔データ以外（例：Imagenet の犬）やより高解像度のデータセットへも適用可能か。

主な発見

• 複数のランダム射影は、訓練全体を通じて有益な情報勾配を維持しながら生成器の訓練をより安定させる。
• 多くの識別器で訓練された生成器は、従来の DC-GAN より高品質なサンプルを生成し、ディテールが改善され、歪みが減少する。
• 識別器の数を増やす（K を増やす）と、適切に選択された射影に対して高周波のアーティファクトが減り、サンプル品質が向上する。
• 識別器の数が増えると訓練時間は増加するが、より長い訓練後には生成サンプルが競争力のある、あるいは優れた品質を達成する。
• K-識別器フレームワークを用いた生成顔の潜在空間内補間は、意味のある潜在構造を示す妥当な中間顔を生み出す。
• CelebA風の顔データセット（64x64）で明確な品質向上を示す実験；Imagenet-canine の切り抜き（128x128）でテクスチャと構図の現実性を示すが全体的な妥当性は必ずしも高くない。