[論文レビュー] Hierarchical Implicit Models and Likelihood-Free Variational Inference

Dustin Tran, Rajesh Ranganath+1 more|arXiv (Cornell University)|Feb 28, 2017

Gaussian Processes and Bayesian Inference参考文献 55被引用数 101

ひとこと要約

本論文は階層的暗黙モデル（HIMs）とlikelihood-free variational inference（LFVI）を提案し、シミュレータベースドおよび暗黙密度モデルにおけるスケーラブルなベイズ推論を可能にし、エコロジーのシミュレータ、Bayesian GAN、および深層シーケンスモデルへの適用を示す。

ABSTRACT

Implicit probabilistic models are a flexible class of models defined by a simulation process for data. They form the basis for theories which encompass our understanding of the physical world. Despite this fundamental nature, the use of implicit models remains limited due to challenges in specifying complex latent structure in them, and in performing inferences in such models with large data sets. In this paper, we first introduce hierarchical implicit models (HIMs). HIMs combine the idea of implicit densities with hierarchical Bayesian modeling, thereby defining models via simulators of data with rich hidden structure. Next, we develop likelihood-free variational inference (LFVI), a scalable variational inference algorithm for HIMs. Key to LFVI is specifying a variational family that is also implicit. This matches the model's flexibility and allows for accurate approximation of the posterior. We demonstrate diverse applications: a large-scale physical simulator for predator-prey populations in ecology; a Bayesian generative adversarial network for discrete data; and a deep implicit model for text generation.

研究の動機と目的

• 階層的確率モデルと階層ベイズ構造を結ぶ階層的暗黙モデルを定義する。
• implicit variational families と density-ratio estimation を用いる LFVI を開発する。
• 大規模な暗黙モデルとシミュレータのためのスケーラブルでデータ効率の高いベイズ推論を可能にする。
• 生態学的 Lotka-Volterra シミュレータ、Bayesian GAN、深層暗黙シーケンスモデルへの応用を示す。

提案手法

• HIMs をデータ生成過程が z と beta から x を生成する決定論的 g とノイズ ε を介して行うシミュレータを用いる階層モデルとして定義する。
• 実 tractable densities を要求せず KL 目的を近似するために implicit variational family と ratio estimation を用いる LFVI を導入する。
• ログ損失など適切なスコアリング規則で訓練された log-density ratio p/q を ELBO に必要な比を推定する ratio-estimation ネットワーク r(x,z,beta) を導入する。
• 全局変数と局所変数の再パラメータ化可能な近似を採用して、微分可能な確率的勾配最適化を実現する。
• ミニバッチの確率的勾配を用いて ratio estimator と変分パラメータを交互に更新する黒箱アルゴリズム（Algorithm 1）を提供する。
• 大規模データセットへのスケーラビリティと離散データ・連続データの適用性を示す。

実験結果

リサーチクエスチョン

• RQ1 階層的暗黙モデルは、豊かな潜在構造をサポートしつつ、スケーラブルで likelihood-free な推論に適合させられるのか。
• RQ2 尤度が不可解でも、シミュレーションが可能な場合に正確な変分推論をどのように行うのか。
• RQ3 LFVI は大規模データと複雑な暗黙モデル（例：GAN、生態学的シミュレータ、ノイズを注入した RNN）に対して拡張可能か。

主な発見

モデル + 推論	Crabs	Pima	Covertype	MNIST
Bayesian GAN + VI	0.03	0.232	0.154	0.0136
Bayesian GAN + MAP	0.12	0.240	0.185	0.0283
Bayesian NN + VI	0.02	0.242	0.164	0.0311
Bayesian NN + MAP	0.05	0.320	0.188	0.0623

• LFVI は密度比推定と implicit variational family を用いることで HIMs のスケーラブルな推論を可能にする。
• 重みの事前分布を持つ Bayesian GAN は複数データセットでベイズニューラルネットワークと競合する性能を示す。
• Lotka-Volterra 捕食者-被食者シミュレータは ABC ベースの手法よりも高い精度・大規模化が可能。
• 隠れユニットにノイズを注入することで、文脈自由文法に一致するサンプルを生成できる深い暗黙モデルをシーケンスに適用できる。
• BFI アプローチは Crabs, Pima, Covertype, MNIST などの小〜中規模データセットで競争力のある予測性能を示す。
• ratio-estimation アプローチは大規模実世界応用において安定性の課題が残る現状を示す。