[論文レビュー] A New Approach to Probabilistic Programming Inference

Frank Wood, Jan Willem van de Meent+1 more|arXiv (Cornell University)|Jul 3, 2015

Markov Chains and Monte Carlo Methods参考文献 8被引用数 4

ひとこと要約

本稿では、複雑な制御フローとベイズ非パラメトリックなプリミティブを備えたチューリング完全な言語において、効率的で並列化可能なサンプリングを可能にする、確率的プログラミング推論のための粒子マルコフ連鎖モンテカルロ（PMCMC）手法を提案する。密度の高い条件付き依存関係を持つモデルにおいても、単一サイトメトロポリス・ハスティングス法よりも収束が速いことが示され、計算コストを補正した後でも同様の結果となる。

ABSTRACT

We introduce and demonstrate a new approach to inference in expressive probabilistic programming languages based on particle Markov chain Monte Carlo. Our approach is simple to implement and easy to parallelize. It applies to Turing-complete probabilistic programming languages and supports accurate inference in models that make use of complex control flow, including stochastic recursion. It also includes primitives from Bayesian nonparametric statistics. Our experiments show that this approach can be more efficient than previously introduced single-site Metropolis-Hastings methods.

研究の動機と目的

• 複雑な制御フローとベイズ非パラメトリック統計をサポートする表現力豊かな確率的プログラミング言語のためのスケーラブルで効率的な推論手法を開発すること。
• 従来のMCMC手法では困難な確率的再帰と複雑な条件付き依存関係を持つモデルにおいて、正確な推論を可能にすること。
• 粒子ベースのMCMC技術を活用することで、既存の単一サイトメトロポリス・ハスティングス・サンプラーに比べて計算効率を向上させること。
• 繰り返しプログラムをシミュレートできる仕組みを提供することで、実世界のモデルにおける実用的推論を可能にし、実装の容易さと並列化の利便性を高めること。

提案手法

• 本手法は、逐次モンテカルロ（SMC）とMCMCを組み合わせた粒子マルコフ連鎖モンテカルロ（PMCMC）を採用し、確率的プログラムの実行トレースを探索する。
• 粒子フィルタを用いて実行トレースを伝搬および再サンプリングし、各粒子に対してプログラムを再実行して尤度を評価する。
• 交換可能性のあるおよび基本的な確率的プリミティブをサポートしており、チャイナ・レストラン過程（CRP）のような非パラメトリック分布も含む。
• 実装と評価には、アングリカン確率的プログラミング言語のインタプリタ版およびコンパイル済み版を用いる。
• 推論エンジンは並列化可能に設計されており、粒子がスレッド間で独立して実行されるが、現在のメモリアクセスパターンが最適な並列化を制限している。
• プログラムはLisp/Schemeに類似した構文で記述され、assume、observe、predictの特殊形式を備え、トレースレベルでの観測とモニタリングを可能にする。

実験結果

リサーチクエスチョン

• RQ1 PMCMCは、確率的再帰を含む複雑な制御フローを持つチューリング完全な確率的プログラムに効果的に適用可能か？
• RQ2 計算コストを考慮した場合、PMCMCの収束速度と計算効率は単一サイトメトロポリス・ハスティングス法と比べてどの程度優れているか？
• RQ3 プログラムの行の順序がPMCMCの推論性能にどの程度影響を及ぼすか、そして最適化に活用可能か？
• RQ4 SMC部における粒子数がPMCMC推論の精度と効率にどのように影響するか？
• RQ5 計算オーバーヘッドを考慮しても、PMCMCはRDB（拒否ベースのサンプリング）よりも速い収束を達成できるか？

主な発見

• 計算コストを補正した後でも、PMCMCは単一サイトメトロポリス・ハスティングス法よりも真の条件付き分布に速く収束することが示された。
• HMMモデルでは、行の順序を観測を早期に処理するように整えることでPMCMCがRDBを上回ったが、逆順序（敵対的順序）では性能が低下した。
• DP混合モデルでは、すべての行順序に対してPMCMCがRDBを一貫して上回り、構文的順序の変化に対して頑健であることが示された。
• 粒子数を増やすことで推論性能が向上し、実験では100から500粒子への増加で顕著な改善が観察された。
• 単一スレッドでもPMCMCがRDBを壁時計時間で上回ることがあり、並列化以外の点でも本質的な効率的利点があることが示唆された。
• 本手法は非パラメトリック事前分布と確率的再帰を備えた複雑なモデルをサポートしており、表現力と実用的適用性の両面で有効であることが実証された。