[论文解读] Data-driven Sequential Monte Carlo in Probabilistic Programming

Yura Perov, Tuan Le+1 more|arXiv (Cornell University)|Dec 14, 2015

Bayesian Modeling and Causal Inference参考文献 3被引用 5

一句话总结

本文提出了一种在概率编程中使用数据驱动的顺序蒙特卡洛（SMC）方法，通过利用先前推理运行中获得的后验估计，使用神经网络学习改进的提议分布。通过在历史推理数据上训练网络，该方法显著减少了准确后验估计所需的粒子数量，优于仅依赖模型先验的常规SMC方法。

ABSTRACT

Most of Markov Chain Monte Carlo (MCMC) and sequential Monte Carlo (SMC) algorithms in existing probabilistic programming systems suboptimally use only model priors as proposal distributions. In this work, we describe an approach for training a discriminative model, namely a neural network, in order to approximate the optimal proposal by using posterior estimates from previous runs of inference. We show an example that incorporates a data-driven proposal for use in a non-parametric model in the Anglican probabilistic programming system. Our results show that data-driven proposals can significantly improve inference performance so that considerably fewer particles are necessary to perform a good posterior estimation.

研究动机与目标

• 解决标准SMC和MCMC方法因仅依赖模型先验来构建提议分布而导致的低效问题。
• 通过从数据中学习判别性提议分布，提升概率编程中的推理性能。
• 减少顺序蒙特卡洛推理中准确后验估计所需的粒子数量。
• 将数据驱动的提议集成到Anglican概率编程系统中的非参数模型中。

提出的方法

• 使用先前推理运行中获得的后验估计，训练神经网络以近似最优提议分布。
• 将神经网络作为顺序蒙特卡洛中的提议使用，替代或增强传统的基于先验的提议。
• 利用早期运行中获得的黑箱推理结果来监督提议网络的训练。
• 将学习到的提议集成到Anglican概率编程系统中，用于非参数模型。
• 将该方法应用于非参数模型，以展示推理效率的提升。
• 采用判别性训练目标，以最小化学习到的提议与真实后验之间的差异。

实验结果

研究问题

• RQ1 神经网络能否被有效训练以改进顺序蒙特卡洛推理中的提议分布？
• RQ2 与基于先验的提议相比，数据驱动的提议在粒子效率方面表现如何？
• RQ3 学习到的提议在多大程度上能减少准确后验估计所需的粒子数量？
• RQ4 数据驱动的提议能否成功集成到概率编程中的非参数模型中？
• RQ5 使用先前运行的后验估计是否能带来更好的推理性能？

主要发现

• 与仅依赖先验的常规SMC相比，数据驱动的提议显著减少了准确后验估计所需的粒子数量。
• 该方法在使用更少粒子的情况下实现了更好的后验近似，证明了推理效率的提升。
• 神经网络提议能够适应后验的结构，从而实现更快的收敛。
• 该方法在非参数模型中表现有效，展示了在复杂推理任务中的可扩展性和鲁棒性。
• 实证结果表明，学习到的提议在有效样本量和估计精度方面均优于基线方法。
• 在Anglican概率编程系统中的集成展示了其实际应用潜力和性能提升。