[論文レビュー] Learning Implicit Generative Models with the Method of Learned Moments

Suman Ravuri, Shakir Mohamed+2 more|arXiv (Cornell University)|Jun 28, 2018

Generative Adversarial Networks and Image Synthesis参考文献 31被引用数 7

ひとこと要約

本稿では、隠れユニットの活性化と勾配特徴を用いるモーメントネットによって統計的に効率的なモーメントを学習することにより、大規模な暗黙的生成モデルを訓練するための新規手法「学習されたモーメントの方法（MoLM）」を提案する。MoLMは、CIFAR-10で最先端のインセプションスコアとフレシェインセプション距離を達成し、CelebAではほぼ完璧に近いマルチスケール構造的類似度を達成し、敵対的GANやMMDベースの手法を上回る性能を示した。

ABSTRACT

We propose a method of moments (MoM) algorithm for training large-scale implicit generative models. Moment estimation in this setting encounters two problems: it is often difficult to define the millions of moments needed to learn the model parameters, and it is hard to determine which properties are useful when specifying moments. To address the first issue, we introduce a moment network, and define the moments as the network's hidden units and the gradient of the network's output with the respect to its parameters. To tackle the second problem, we use asymptotic theory to highlight desiderata for moments -- namely they should minimize the asymptotic variance of estimated model parameters -- and introduce an objective to learn better moments. The sequence of objectives created by this Method of Learned Moments (MoLM) can train high-quality neural image samplers. On CIFAR-10, we demonstrate that MoLM-trained generators achieve significantly higher Inception Scores and lower Frechet Inception Distances than those trained with gradient penalty-regularized and spectrally-normalized adversarial objectives. These generators also achieve nearly perfect Multi-Scale Structural Similarity Scores on CelebA, and can create high-quality samples of 128x128 images.

研究の動機と目的

• 数百万個のモーメントを必要とする従来のモーメント推定が不可能であるため、大規模な暗黙的生成モデルを訓練するという課題に対処すること。
• 統計的に効率的なモーメントの選択の難しさを、漸近的分散の最小化によってそれらを学習することで克服すること。
• 敵対的訓練の欠点を避けつつも、その性能を上回るか同等のサンプル品質を達成できるスケーラブルで安定した訓練アルゴリズムを開発すること。
• モーメントに基づく訓練に学習されたモーメントを用いることで、GANと同等またはそれ以上の高精細度の画像サンプルを生成できることを示すこと。

提案手法

• 生成器の訓練のためのモーメントとして、隠れユニットと出力勾配の両方を備えたモーメントネットを導入する。
• 漸近的理論を用いて、モーメントの望ましい性質を定義する：パrameter推定器の漸近的分散を最小化すること。
• 推定器の精度を向上させるために、統計的に効率的なモーメントを学習するための目的関数を提案する。
• 生成データのモーメントと実データのモーメントを一致させる形で生成器を訓練し、モーメントネットを特徴抽出器として用いる。
• 2段階の最適化を採用する：まず、分散を最小化するようにモーメントネットを学習し、その後、その学習済みモーメントを用いて生成器を訓練する。
• DCGANやMiyatoら（2018）が提案したカスタム畳み込みネットワークを用いて、画像生成に本手法を適用する。

実験結果

リサーチクエスチョン

• RQ1 モーメントの方法は、数千万パラメータを持つ暗黙的生成モデルの訓練にスケーラブルに適用可能か？
• RQ2 推定モデルパラメータの漸近的分散を最小化するように、モーメントをどのように学習すればよいか？
• RQ3 モーメントベースの訓練アプローチは、敵対的訓練と同等またはそれ以上のサンプル品質を達成できるか？
• RQ4 モーメントネットにおける隠れユニットの活性化と勾配特徴の組み合わせが、生成性能に与える影響は何か？

主な発見

• CIFAR-10では、MoLMで訓練された生成器は、Conv.アーキテクチャを用いてインセプションスコア7.90 ± 0.10、フレシェインセプション距離23.3/18.9を達成し、勾配ペナルティ法やスペクトル正規化GANを上回った。
• CelebAでは、MoLMがマルチスケール構造的類似度スコア0.378を達成し、メトリクスの限界にもかかわらず、GANベースラインと同等またはそれを上回った。
• 本手法は128×128画像生成にスケーリング可能であり、ImageNetのデイジー・サブセットから高品質なサンプルを生成し、高解像度画像生成の可能性を示した。
• モーメントネットで隠れユニットの活性化と勾配特徴の両方を用いることで、単独で用いる場合よりも顕著に高いISおよびFIDスコアが得られた。
• 訓練の過程でインセプションスコアやフレシェインセプション距離に崩壊が生じず、時間経過に伴っても安定した性能を維持した。
• モーメントネットのサイズを増大させても性能が安定し、768ユニットから1536ユニットに拡大するに従い、ISおよびFIDスコアに改善が見られた。