[論文レビュー] Applications of Probabilistic Programming (Master's thesis, 2015)

Yura Perov|arXiv (Cornell University)|May 31, 2016

Gaussian Processes and Bayesian Inference参考文献 67被引用数 3

ひとこと要約

この修士論文は、確率的プログラミングの2つの応用を提示している：(1) 語彙に基づく事前分布と近似的ベイズ計算を用いた、文法に基づく事前分布を用いたベイズ的プログラム合成による1次元サンプラーの自動発見；(2) 特に非パラメトリックディリクレ過程混合モデルに対して、データ駆動型の提案分布を用いて逐次モンテカルロ推論を強化すること。このアプローチは、遺伝的プログラミングと同等の性能を達成し、Anglicanを用いた確率的モデルにおける推論効率を顕著に向上させた。

ABSTRACT

This thesis describes work on two applications of probabilistic programming: the learning of probabilistic program code given specifications, in particular program code of one-dimensional samplers; and the facilitation of sequential Monte Carlo inference with help of data-driven proposals. The latter is presented with experimental results on a linear Gaussian model and a non-parametric dependent Dirichlet process mixture of objects model for object recognition and tracking. In Chapter 1 we provide a brief introduction to probabilistic programming. In Chapter 2 we present an approach to automatic discovery of samplers in the form of probabilistic programs. We formulate a Bayesian approach to this problem by specifying a grammar-based prior over probabilistic program code. We use an approximate Bayesian computation method to learn the programs, whose executions generate samples that statistically match observed data or analytical characteristics of distributions of interest. In our experiments we leverage different probabilistic programming systems to perform Markov chain Monte Carlo sampling over the space of programs. Experimental results have demonstrated that, using the proposed methodology, we can learn approximate and even some exact samplers. Finally, we show that our results are competitive with regard to genetic programming methods. In Chapter 3, we describe a way to facilitate sequential Monte Carlo inference in probabilistic programming using data-driven proposals. In particular, we develop a distance-based proposal for the non-parametric dependent Dirichlet process mixture of objects model. We implement this approach in the probabilistic programming system Anglican, and show that for that model data-driven proposals provide significant performance improvements. We also explore the possibility of using neural networks to improve data-driven proposals.

研究の動機と目的

• 目的の分布に一致するサンプルを生成する確率的プログラムコードを自動的に発見するためのベイズ枠組みの構築。
• データ駆動型の提案分布を用いて、複雑な確率的モデルにおける逐次モンテカルロ（SMC）推論の効率を向上させること。
• 神経ネットワークを用いて、SMCにおけるデータ駆動型の提案分布をさらに向上させることの可能性を検討すること。
• 線形ガウスモデルおよび非パラメトリック従属ディリクレ過程混合モデルを用いた物体認識および追跡のための、提案手法の評価。
• 提案されたプログラム合成手法の性能を、既存の遺伝的プログラミング手法と比較すること。

提案手法

• 潜在的なサンプラーに構造的制約を組み込むために、確率的プログラムコードに文法に基づく事前分布を定式化する。
• 近似的ベイズ計算（ABC）を適用し、観測データや解析的分布の特徴と統計的に一致するプログラムを学習する。
• ABCフレームワーク下で、確率的プログラムの空間におけるマルコフ連鎖モンテカルロ（MCMC）サンプリングを実行して推論を実施する。
• Anglicanなどの確率的プログラミングシステムへの実装により、スケーラブルな推論を可能にする。
• 非パラメトリック従属ディリクレ過程混合モデルに特化した距離に基づく提案メカニズムを設計し、SMCの効率を向上させる。
• 神経ネットワークの統合を検討し、SMCにおけるより効果的なデータ駆動型提案分布を学習する。

実験結果

リサーチクエスチョン

• RQ1 文法に基づく事前分布を用いたベイズ推論による確率的プログラム合成は、データまたは分布の特徴から既知の1次元サンプラーを信頼性高く回復できるか？
• RQ2 線形ガウスモデルや従属ディリクレ過程混合モデルのような複雑な非パラメトリックモデルにおいて、データ駆動型の提案分布は逐次モンテカルロ推論の高速化にどの程度効果的か？
• RQ3 神経ネットワークは、SMC推論におけるデータ駆動型提案分布の質と効率をさらに向上させられるか？
• RQ4 提案されたプログラム合成手法は、確立された遺伝的プログラミング手法と比較して、性能と正確性の面でどの程度優れているか？
• RQ5 この枠組みは、物体認識や追跡のような実世界の推論タスクにどの程度一般化可能か？

主な発見

• 提案されたベイズ的プログラム合成アプローチは、近似的および正確な1次元サンプラーの両方を効果的に学習し、自動的確率的プログラム発見の可能性を示した。
• この手法は、分布の特徴から正しいサンプラーを合成する点で、遺伝的プログラミング手法と同等の性能を達成した。
• データ駆動型の提案分布は、線形ガウスモデルおよび非パラメトリック従属ディリクレ過程混合モデルにおける逐次モンテカルロ推論の効率を顕著に向上させた。
• SMCにおける距離に基づく提案分布の使用により、物体認識および追跡タスクにおける必要な粒子数が減少し、収束速度が向上した。
• 神経ネットワークベースの提案分布は、提案の質をさらに向上させる可能性を示したが、主な評価は距離に基づく設計に集中していた。
• Anglican確率的プログラミングシステムへの実装により、提案された推論技術の実用的導入と評価が可能になった。