[論文レビュー] Metric Learning-based Generative Adversarial Network

Zi-Yi Dou|arXiv (Cornell University)|Nov 8, 2017

Generative Adversarial Networks and Image Synthesis参考文献 29被引用数 6

ひとこと要約

本稿では、生成対抗ネットワーク（MLGAN）という新しいGANフレームワークを提案する。MLGANでは、識別器が実サンプルと生成サンプルの類似度を測るための動的距離メトリックを学習し、生成器はその学習済みメトリックを最小化するように最適化される。MLGANは、SOTAのGANと比較して優れた画像品質と向上した訓練安定性を達成しており、同じアーキテクチャを用いてCIFAR-10では6.279、SVHNでは3.296のInceptionスコアを達成した。

ABSTRACT

Generative Adversarial Networks (GANs), as a framework for estimating generative models via an adversarial process, have attracted huge attention and have proven to be powerful in a variety of tasks. However, training GANs is well known for being delicate and unstable, partially caused by its sig- moid cross entropy loss function for the discriminator. To overcome such a problem, many researchers directed their attention on various ways to measure how close the model distribution and real distribution are and have applied dif- ferent metrics as their objective functions. In this paper, we propose a novel framework to train GANs based on distance metric learning and we call it Metric Learning-based Gener- ative Adversarial Network (MLGAN). The discriminator of MLGANs can dynamically learn an appropriate metric, rather than a static one, to measure the distance between generated samples and real samples. Afterwards, MLGANs update the generator under the newly learned metric. We evaluate our ap- proach on several representative datasets and the experimen- tal results demonstrate that MLGANs can achieve superior performance compared with several existing state-of-the-art approaches. We also empirically show that MLGANs could increase the stability of training GANs.

研究の動機と目的

• 標準GANに内在する不安定性と訓練の難しさ、特に消失勾配と識別器の最適化が不十分な問題を解決すること。
• 静的損失関数の代わりに動的に学習される距離メトリックを用いることで、生成器の訓練目的関数を改善すること。
• 固定損失関数に依存するのではなく、タスク固有のメトリックを学習できる識別器を導入することで、GANの訓練安定性を向上させること。
• メトリック学習が、生成モデルにおける敵対的訓練のより強固で効果的な目的関数として機能できることを示すこと。
• 識別器の役割を分類からメトリック学習に再定義することで、GAN訓練の新たな視点を提供すること。

提案手法

• MLGANの識別器は、実サンプルと生成サンプルの間の距離メトリックを学習することを目的とし、二値分類とは異なる。
• 距離メトリックは距離メトリック学習技術を用いて学習され、潜在空間における類似度を適応的に測定できるようにする。
• 生成器は、識別器が学習したメトリックに基づいて、実サンプルと生成サンプルの距離を最小化するように更新される。
• フレームワークは、勾配ペナルティを用いたWGANと同一のモデルアーキテクチャを採用しており、損失関数にメトリック学習を統合する変更が加えられている。
• 重みクリッピングとセンターペナルティの2つの正則化手法が、識別器のメトリック学習プロセスを制約するために適用されている。
• Inceptionスコアを用いてSVHNおよびCIFAR-10での評価が行われ、さまざまな訓練設定におけるアブレーションスタディも実施された。

実験結果

リサーチクエスチョン

• RQ1 動的に学習される距離メトリックは、GAN訓練の安定性と性能を向上させることができるか？
• RQ2 標準GAN損失を学習されたメトリックに置き換えることで、より優れたサンプル品質とモード崩壊の低減が達成できるか？
• RQ3 WGAN や LSGAN といったSOTAのGANと比較して、MLGANはInceptionスコアおよび訓練ダイナミクスの観点でどのように差をつけるか？
• RQ4 性能を損なわせることなく、GANにおける識別器の役割を分類からメトリック学習に再定義できるか？
• RQ5 異なる正則化戦略（例：重みクリッピング vs. センターペナルティ）は、メトリック学習プロセスおよび最終的な生成品質にどのような影響を与えるか？

主な発見

• SVHNでは、MLGANが3.296 ± 0.17のInceptionスコアを達成し、勾配ペナルティ付きWGAN（3.129 ± 0.20）や他のベースラインを上回った。
• CIFAR-10では、センターペナルティを用いたMLGANが6.279 ± 0.33のInceptionスコアを達成し、勾配ペナルティ付きWGAN（6.069 ± 0.33）を上回った。
• ヴァニラ版のMLGANでも、DCGANがSVHNおよびCIFAR-10の両方で完全に失敗したのとは異なり、トレーニング中にモード崩壊を回避した。
• センターペナルティ正則化を用いることで、両データセットで最高のInceptionスコアが得られ、メトリックの一般化が向上したことが示された。
• 生成器が学習済みメトリックに基づくより一貫性があり意味のある勾配を受け取るため、MLGANは訓練安定性が向上した。
• 結果から、識別器を最適化することができ、かつそれが有益であることが示された。これは、標準GANにおける主要な不安定要因を解消した。