[論文レビュー] Learning Probabilistic Programs

Yura Perov, Frank Wood|arXiv (Cornell University)|Jul 9, 2014

Bayesian Modeling and Causal Inference参考文献 30被引用数 6

ひとこと要約

本稿では、高階型確率的プログラミング言語におけるベイズ推論を用いて、観測されたデータサンプルから生成的確率的プログラムのテキストを自動で学習する手法を提案する。階層的事前分布を用いたプログラム生成を確率的推論として扱うことで、ベルヌーイ分布などの分布からのサンプル生成プログラムを、データと他の既知のサンプラーを用いて成功裏に同定した。これは、MCMC推論が非自明な分布に対しても一般化可能であり、強力な実験的結果を示していることを示している。

ABSTRACT

We develop a technique for generalising from data in which models are samplers represented as program text. We establish encouraging empirical results that suggest that Markov chain Monte Carlo probabilistic programming inference techniques coupled with higher-order probabilistic programming languages are now sufficiently powerful to enable successful inference of this kind in nontrivial domains. We also introduce a new notion of probabilistic program compilation and show how the same machinery might be used in the future to compile probabilistic programs for efficient reusable predictive inference.

研究の動機と目的

• 確率的プログラミング言語が、観測されたデータサンプルから生成的モデルプログラムを自動で推論できるかどうかを調査すること。
• プログラムテキスト上のベイズ推論を用いて、ベルヌーイ分布などの効率的なサンプリング手順を発見する可能性を検討すること。
• 従来の推論パイプラインを回避する直接的な事後分布に一致するサンプルを生成するプログラムテキストを学習する、確率的プログラムコンパイルのフレームワークを構築すること。
• サンプルデータのみを用いて、異なる分布タイプ間での一般化を可能にする、プログラムテキストに対する階層的生成的事前分布の有効性を評価すること。
• 手作業で長年にわたり開発されてきた、マーサグリアやボックス＝マラーのような効率的サンプリングアルゴリズムの自動発見の基盤を築くこと。

提案手法

• プログラムテキスト上に階層的生成モデルを定義し、確率的プログラムの構造と複雑さに関する事前信念をエンコードする。
• 観測されたデータサンプルを条件とした、プログラムテキスト上の事後分布からのサンプリングにマルコフ連鎖モンテカルロ（MCMC）推論を用いる。
• 推論プロセスはランタイムインタプリタを介してプログラムテキストを評価し、要約統計量を用いて出力分布が観測データと一致するかをチェックする。
• 一等関数および評価（eval）を含む、高階型プログラミング言語の特徴を活用することで、再帰的かつモジュラーなプログラム構築を可能にする。
• 1つを除いた分布の既知のサンプラーを用いて、残りの分布のプログラムテキストを推論する「1つを除いた」実験設計を採用する。
• 従来の推論パイプラインを回避する直接的な事後分布に一致するサンプルを生成する新しいプログラムを学習することで、確率的プログラムコンパイルを支援する。

実験結果

リサーチクエスチョン

• RQ1 高階型確率的プログラミング言語におけるプログラムテキスト上でのMCMC推論は、観測されたデータサンプルから生成的モデルを成功裏に推論できるか？
• RQ2 プログラム構造に対する階層的事前分布は、他の分布の既知のサンプラーとサンプルデータのみを用いても、ベルヌーイ分布のような新しい分布タイプへの一般化を可能にするか？
• RQ3 マーサグリアやボックス＝マラーのような手作業で作成されたアルゴリズムに類似した効率的サンプリング手順を、プログラムテキスト上の確率的推論によって自動で発見するのは現実的か？
• RQ4 直接的に事後分布に一致するサンプルを生成するプログラムテキストを学習することで、確率的プログラムコンパイルはどの程度達成可能か？
• RQ5 プログラムテキストに対する生成的事前分布は、より読みやすく、簡潔で再利用可能なサンプリング手順への推論を正則化するか？

主な発見

• 1つを除いた実験において、本手法は観測されたサンプルと他の分布の既知のサンプラーのみを用いて、ベルヌーイ分布のサンプラー生成プログラムを成功裏に推論した。
• 推論されたプログラムテキストは、真のデータ分布と一致する要約統計量を生成し、強力な一般化性能を示した。
• 実験的結果から、MCMC推論が確率的プログラムの複雑で高次元な空間を効果的に探索し、高い事後確率を持つプログラムを特定できることを示した。
• 高階型確率的プログラミング言語にeval機能を備えることで、プログラム構造上の柔軟で強力な推論が可能となり、サンプリング手順の自動発見が可能であることを示した。
• 推論されたコンパイル済みサンプラーは、正確な事後分布に近く、確率的プログラムコンパイルが新たなパラダイムとして実現可能であることを示唆した。
• 結果から、長年にわたり手作業で開発されてきた効率的サンプリングアルゴリズムの自動発見が、今後は確率的推論によって達成可能になる可能性があることが示唆された。