[論文レビュー] Learning in Implicit Generative Models

Shakir Mohamed, Balaji Lakshminarayanan|arXiv (Cornell University)|Oct 11, 2016

Generative Adversarial Networks and Image Synthesis参考文献 47被引用数 180

ひとこと要約

本論文はGANを、幅広い尤度なし・暗黙生成モデルの枠組みに位置づけ、密度比、仮説検定、および関連手法間の複数の学習目的を結びつける。

ABSTRACT

Generative adversarial networks (GANs) provide an algorithmic framework for constructing generative models with several appealing properties: they do not require a likelihood function to be specified, only a generating procedure; they provide samples that are sharp and compelling; and they allow us to harness our knowledge of building highly accurate neural network classifiers. Here, we develop our understanding of GANs with the aim of forming a rich view of this growing area of machine learning---to build connections to the diverse set of statistical thinking on this topic, of which much can be gained by a mutual exchange of ideas. We frame GANs within the wider landscape of algorithms for learning in implicit generative models--models that only specify a stochastic procedure with which to generate data--and relate these ideas to modelling problems in related fields, such as econometrics and approximate Bayesian computation. We develop likelihood-free inference methods and highlight hypothesis testing as a principle for learning in implicit generative models, using which we are able to derive the objective function used by GANs, and many other related objectives. The testing viewpoint directs our focus to the general problem of density ratio estimation. There are four approaches for density ratio estimation, one of which is a solution using classifiers to distinguish real from generated data. Other approaches such as divergence minimisation and moment matching have also been explored in the GAN literature, and we synthesise these views to form an understanding in terms of the relationships between them and the wider literature, highlighting avenues for future exploration and cross-pollination.

研究の動機と目的

• 規定された確率モデルと暗黙的確率モデルを区別し、複雑なシミュレータに対する暗黙生成モデリングを動機づける。
• 扱える尤度が存在しない暗黙モデルを、密度の比較を通じて尤度なし推論を開発する。
• GANおよび関連手法を仮説検定と密度比推定を通じて整理し、さまざまなアプローチを統合する。
• 分類ベースの密度比、発散最小化、モーメント/マッチング手法の間の関連を探る。
• 評価、学習上の課題、ABCおよび関連フレームワークとの相互作用について論じる。

提案手法

• 現実データと生成データを区別する識別器を訓練して密度比を計算するクラス確率推定。
• 発散最小化（f-ダイバージェンス）とそれらの変分形を用いて学習を導く。
• 比率マッチングおよび最小二乗/ブレグマン発散アプローチを用いて密度比を推定し、生成器の学習を推進する。
• モーメントマッチングとカーネルベースまたはMMD風の目的関数を用いて、検定統計量を介して分布を比較する。
• 比率（識別器）損失と生成器損失を組み合わせた二重最適化を行い、さまざまな実践的損失選択と訓練上の考慮事項。
• 代替損失（例： Wasserstein）と、それらが勾配挙動および訓練の安定性に及ぼす影響について論じる。

実験結果

リサーチクエスチョン

• RQ1 実データと生成データを比較することにより、明示的な尤度なしで暗黙生成モデルの学習をどのように実現できるか？
• RQ2 この文脈におけるクラス確率推定、発散最小化、比率マッチング、モーメントマッチングの関係はどうなるか？
• RQ3 密度比を中心的な道具（識別器）として、推論と生成器の最適化の両方を指引するにはどうすればよいか？
• RQ4 暗黙モデルやGANの学習を安定化させる効果的な損失関数と訓練戦略は何か？
• RQ5 これらのアプローチはABCや他の尤度なしフレームワークの方法にどのように関連し、示唆を与えるか？

主な発見

• 分類器による密度比推定は、暗黙モデルにおける尤度なし学習の実用的で中心的な仕組みを提供する。
• 発散最小化とクラス確率推定は、p*とqを比較する同じ枠組みの二つの側面である。
• 異なる損失系（ベルヌーイ、ブライア、KL、f-ダイバージェンス）は、同じ固定点をもたらす一方で、訓練ダイナミクスと勾配には差がある。
• 比率マッチングとブレグマン発散は、GANs、f-GANs、LSIF風手法を結ぶ統一的な視点を提供する。
• モーメントマッチングとMMDベースの手法は密度比法を補完し、ABCおよび最適輸送の概念と関連する。
• 訓練の安定性と勾配品質は、標準的なGAN損失を超えた代替目的関数（例：Wasserstein）を用いる動機となる。