[論文レビュー] Variational Bayesian Monte Carlo

Luigi Acerbi|arXiv (Cornell University)|Oct 12, 2018

Gaussian Processes and Bayesian Inference被引用数 12

ひとこと要約

この論文は、変分推論とガウス過程に基づくベイズ的四則積分を組み合わせることで、高価でブラックボックスな尤度関数の事後分布とモデル証拠を、サンプル効率的に近似するVariational Bayesian Monte Carlo (VBMC)を導入する。VBMCは、合成的および実際の神経モデル（最大D=10）において、尤度評価回数が限られた状況でも、精度と一貫性の面で既存手法を上回る頑健な性能を発揮する。

ABSTRACT

Many probabilistic models of interest in scientific computing and machine learning have expensive, black-box likelihoods that prevent the application of standard techniques for Bayesian inference, such as MCMC, which would require access to the gradient or a large number of likelihood evaluations. We introduce here a novel sample-efficient inference framework, Variational Bayesian Monte Carlo (VBMC). VBMC combines variational inference with Gaussian-process based, active-sampling Bayesian quadrature, using the latter to efficiently approximate the intractable integral in the variational objective. Our method produces both a nonparametric approximation of the posterior distribution and an approximate lower bound of the model evidence, useful for model selection. We demonstrate VBMC both on several synthetic likelihoods and on a neuronal model with data from real neurons. Across all tested problems and dimensions (up to $D = 10$), VBMC performs consistently well in reconstructing the posterior and the model evidence with a limited budget of likelihood evaluations, unlike other methods that work only in very low dimensions. Our framework shows great promise as a novel tool for posterior and model inference with expensive, black-box likelihoods.

研究の動機と目的

• 標準的なMCMCや変分推論手法が評価コストが高いために不適切となる、高価でブラックボックスな尤度関数を有するモデルにおけるベイズ推論の課題に対処すること。
• 尤度評価回数の予算が限られた状況で、同時に事後分布とモデル証拠（周辺尤度）を近似すること。
• 多峰性、重たい尾、強いパラメータ相関を示す複雑な尤度関数に対しても、中程度の次元（最大D=10）で効果を発揮する手法を開発すること。
• 事後分布またはモデル証拠のどちらか一方に焦点を当てた既存のサーモン補間手法の限界を克服すること。
• 科学的計算および機械学習の応用分野に適した、頑健でサンプル効率の良い推論フレームワークを提供すること。

提案手法

• 変分パラメータϕの最適化によりKLダイバージェンスを最小化することで、真の事後分布をパラメトリックな族qϕ(x)で近似する変分推論を用いる。
• 変分目的関数における不変通積分を、ガウス過程に基づくベイズ的四則積分近似に置き換えることで、効率的な数値積分を可能にする。
• 獲得関数（例：a_pro）を用いたアクティブサンプリングにより、事後密度の高い領域での尤度評価を戦略的に選択し、GPサーモンの精度を向上させる。
• ガウス過程を用いて対数結合分布log p(D|x)p(x)をモデル化し、GPの事後分布をサンプリングと積分推定のガイドとして用い、不確実性の定量化を可能にする。
• GPのハイパーパrameterを最適化し、反復的に変分近似を更新することで、時間の経過とともに計算コストを削減する（サンプリングから最適化への切り替え）。
• GPサーモンを変分目的関数に統合し、モデル証拠（ELBO）の下界を計算することで、モデル選択を可能にする。

実験結果

リサーチクエスチョン

• RQ1 限られた関数評価回数で、高価でブラックボックスな尤度関数に対して、統一されたフレームワークが同時に事後分布とモデル証拠を近似可能か？
• RQ2 VBMCは、多峰性、重たい尾、強いパラメータ相関といった現実的特性を示す尤度関数に対して、どのように性能を発揮するか？
• RQ3 多様な合成的および実世界の問題において、VBMCは精度とサンプル効率の面で既存手法を上回るか？
• RQ4 VBMCの事後分布近似の品質が、サーモンのみまたは推論のみの手法と比較して、モデル証拠推定をどの程度改善するか？
• RQ5 VBMCのアルゴリズム的コストは、尤度評価回数の増加に伴いどのように変化するか？また、WSABI や BBQ と比較してどうか？

主な発見

• VBMCは、すべてのテストされた合成尤度関数および実際の神経データにおいて、D=10次元まで高精度に事後分布とモデル証拠を再構築する。
• 多峰性や相関を有する複雑な非自明な尤度関数において、WSABI、BBQ、BAPEを上回る事後分布の精度とモデル証拠推定性能を示す。
• V1神経モデル（D=7）では、VBMCがたった250〜300回の尤度評価で、中央値のガウス化・対称化KLダイバージェンスが1未満（望ましい閾値未満）に達した。
• VBMCの関数評価1回あたりのアルゴリズム的コストは中程度（平均2〜3秒）であり、約275回の評価後には、ハイパーパrameterのサンプリングから最適化への切り替えにより著しく低下する。
• 制御実験では、VBMCが他の手法よりも高品質なサンプルを生成しており、WSABI-LをVBMCが生成したサンプルに適用した場合のLML推定値の向上が裏付けられている。
• VBMCのサンプルに直接GPをフィッティングすると、他の手法よりもより良い事後分布近似が得られるが、それでもVBMCの変分事後分布ほど正確ではないため、VBMCの変分近似の品質が確認された。