[论文解读] A New Approach to Probabilistic Programming Inference

Frank Wood, Jan Willem van de Meent+1 more|arXiv (Cornell University)|Jul 3, 2015

Markov Chains and Monte Carlo Methods参考文献 8被引用 4

一句话总结

本文提出了一种用于概率编程推理的粒子马尔可夫链蒙特卡洛（PMCMC）方法，可在支持复杂控制流和贝叶斯非参数原语的图灵完备语言中实现高效且可并行化的采样。即使在考虑计算成本后，其收敛速度仍快于单链梅特罗波利斯-黑斯廷斯方法，尤其在具有密集条件依赖性的模型中表现更优。

ABSTRACT

We introduce and demonstrate a new approach to inference in expressive probabilistic programming languages based on particle Markov chain Monte Carlo. Our approach is simple to implement and easy to parallelize. It applies to Turing-complete probabilistic programming languages and supports accurate inference in models that make use of complex control flow, including stochastic recursion. It also includes primitives from Bayesian nonparametric statistics. Our experiments show that this approach can be more efficient than previously introduced single-site Metropolis-Hastings methods.

研究动机与目标

• 开发一种可扩展且高效的推理方法，用于支持复杂控制流和贝叶斯非参数统计的表达性概率编程语言。
• 在具有随机递归和复杂条件依赖性的模型中实现准确推理，这些模型对传统MCMC方法构成挑战。
• 通过利用基于粒子的MCMC技术，提升现有单链梅特罗波利斯-黑斯廷斯采样器的计算效率。
• 通过重复程序仿真实现简单实现和并行化，支持实际模型中的推理。

提出的方法

• 该方法采用粒子马尔可夫链蒙特卡洛（PMCMC），将序贯蒙特卡洛（SMC）与MCMC结合，以探索概率程序的执行轨迹。
• 使用粒子滤波器传播和重采样执行轨迹，每个粒子均需重新执行整个程序以评估似然。
• 该方法支持可交换和基本的随机原语，包括中国餐馆过程（CRP）等非参数分布。
• 利用Anglican概率编程语言的解释版本和编译版本实现并评估该方法。
• 推理引擎设计为可并行化，粒子在不同线程中独立执行，但当前的内存访问模式限制了最佳并行性。
• 程序采用类似Lisp/Scheme的语法，包含assume、observe和predict等特殊形式，支持对轨迹的观测和监控。

实验结果

研究问题

• RQ1 PMCMC能否有效应用于具有复杂控制流（如随机递归）的图灵完备概率程序？
• RQ2 在收敛速度和计算效率方面，PMCMC与单链梅特罗波利斯-黑斯廷斯方法相比表现如何？
• RQ3 程序行的排序在PMCMC中在多大程度上影响推理性能？是否可被用于优化？
• RQ4 SMC组件中的粒子数量在多大程度上影响PMCMC推理的准确性和效率？
• RQ5 在考虑计算开销后，PMCMC是否仍能实现快于RDB（基于拒绝的采样）的收敛速度？

主要发现

• 即使在考虑计算成本后，PMCMC的收敛速度仍快于单链梅特罗波利斯-黑斯廷斯方法，更接近真实后验分布。
• 在HMM模型中，当程序行按优先观察早期数据的方式排序时，PMCMC优于RDB；但在对抗性排序下性能下降。
• 在DP混合模型中，PMCMC在所有行顺序排列下均持续优于RDB，表明对语法排序具有鲁棒性。
• 增加粒子数量可提升推理性能，实验中从100到500粒子时性能有显著提升。
• 即使仅使用单线程，PMCMC在某些情况下仍优于RDB的运行时间，表明其具有超越并行化的内在效率优势。
• 该方法支持具有非参数先验和随机递归的复杂模型，展示了其表达能力与实际适用性。