[論文レビュー] Data-driven Sequential Monte Carlo in Probabilistic Programming

Yura Perov, Tuan Le+1 more|arXiv (Cornell University)|Dec 14, 2015

Bayesian Modeling and Causal Inference参考文献 3被引用数 5

ひとこと要約

本稿では、事前推定の結果を活用して、確率的プログラミングにおけるデータ駆動型逐次モンテカルロ（SMC）手法を提案する。ニューラルネットワークを用いて、過去の推定結果から最適な提案分布を学習することで、標準的なSMCがモデルの事前分布のみに依存するのとは異なり、正確な後方分布推定に必要な粒子数を顕著に削減する。歴史的な推定データを用いてネットワークを訓練することで、後方分布推定に必要な粒子数を大幅に削減でき、従来の事前分布に基づく提案分布に比べて優れた性能を発揮する。

ABSTRACT

Most of Markov Chain Monte Carlo (MCMC) and sequential Monte Carlo (SMC) algorithms in existing probabilistic programming systems suboptimally use only model priors as proposal distributions. In this work, we describe an approach for training a discriminative model, namely a neural network, in order to approximate the optimal proposal by using posterior estimates from previous runs of inference. We show an example that incorporates a data-driven proposal for use in a non-parametric model in the Anglican probabilistic programming system. Our results show that data-driven proposals can significantly improve inference performance so that considerably fewer particles are necessary to perform a good posterior estimation.

研究の動機と目的

• 標準的なSMCおよびMCMC手法が提案分布にモデルの事前分布のみに依存する非効率性を是正すること。
• データから特徴的な提案分布を学習することで、確率的プログラミングにおける推定性能を向上させること。
• 逐次モンテカルロ推定における正確な後方分布推定に必要な粒子数を削減すること。
• アングリカン確率的プログラミングシステムにおける非パラメトリックモデルにデータ駆動型提案を統合すること。

提案手法

• 過去の推定結果から得られる後方分布推定値を用いて、最適な提案分布を近似するニューラルネットワークを訓練する。
• ニューラルネットワークを逐次モンテカルロの提案分布として使用し、従来の事前分布に基づく提案を置き換えたり強化したりする。
• 以前の実行で得られたブラックボックス推定結果を、提案ネットワークの訓練の教師データとして活用する。
• 非パラメトリックモデル向けに、学習済みの提案分布をアングリカン確率的プログラミングシステムに統合する。
• 推定効率の向上を実証するために、非パラメトリックモデルに本手法を適用する。
• 真の後方分布と学習済み提案分布との乖離を最小化する判別的訓練目的関数を用いる。

実験結果

リサーチクエスチョン

• RQ1 ニューラルネットワークは、逐次モンテカルロ推定における提案分布の改善に効果的に訓練可能か？
• RQ2 粒子効率という観点から、データ駆動型提案と事前分布に基づく提案の違いは何か？
• RQ3 学習済みの提案は、正確な後方分布推定に必要な粒子数をどの程度削減できるか？
• RQ4 確率的プログラミングにおける非パラメトリックモデルに、データ駆動型提案を効果的に統合できるか？
• RQ5 過去の実行からの後方推定結果を用いることで、推定性能が向上するか？

主な発見

• 標準的なSMCに事前分布に基づく提案を使用する場合と比較して、データ駆動型提案は正確な後方分布推定に必要な粒子数を顕著に削減した。
• 本手法は、少ない粒子数でより良い後方分布近似を達成でき、推定効率の向上を示した。
• ニューラルネットワークによる提案は、後方分布の構造に適応し、収束を早める。
• 本手法は非パラメトリックモデルでも有効であり、複雑な推定タスクにおいてスケーラビリティとロバストネスを示した。
• 実験的結果から、有効サンプルサイズおよび推定精度の両面で、学習済み提案はベースライン手法を上回った。
• アングリカン確率的プログラミングシステムへの統合により、実用的応用性と性能向上の両方が実証された。