[论文解读] Sublinear-Time Approximate MCMC Transitions for Probabilistic Programs

Yutian Chen, Vikash K. Mansinghka+1 more|arXiv (Cornell University)|Nov 6, 2014

Markov Chains and Monte Carlo Methods参考文献 10被引用 3

一句话总结

该论文提出了一种亚线性时间的近似Metropolis-Hastings算法，用于概率程序中潜变量的更新，通过在动态构建的概率执行轨迹（PET）图中子采样边，实现了在高度耦合模型（如回归和状态空间模型）中的高效推理。该方法在保持可忽略偏差的同时，相较于精确MCMC实现了最高10倍的加速，并在贝叶斯逻辑斯蒂克回归、非参数混合模型和随机波动率模型等多种应用中保持了高精度。

ABSTRACT

Probabilistic programming languages can simplify the development of machine learning techniques, but only if inference is sufficiently scalable. Unfortunately, Bayesian parameter estimation for highly coupled models such as regressions and state-space models still scales poorly; each MCMC transition takes linear time in the number of observations. This paper describes a sublinear-time algorithm for making Metropolis-Hastings (MH) updates to latent variables in probabilistic programs. The approach generalizes recently introduced approximate MH techniques: instead of subsampling data items assumed to be independent, it subsamples edges in a dynamically constructed graphical model. It thus applies to a broader class of problems and interoperates with other general-purpose inference techniques. Empirical results, including confirmation of sublinear per-transition scaling, are presented for Bayesian logistic regression, nonlinear classification via joint Dirichlet process mixtures, and parameter estimation for stochastic volatility models (with state estimation via particle MCMC). All three applications use the same implementation, and each requires under 20 lines of probabilistic code.

研究动机与目标

• 为解决高度耦合模型（如回归和状态空间模型）中贝叶斯推理的可扩展性瓶颈，这些模型的标准MCMC更新与数据规模呈线性关系。
• 将近似MCMC技术从独立同分布数据子采样推广至在动态构建的图模型（PET）中对依赖关系（边）进行子采样。
• 将亚线性近似MH更新集成到通用概率编程框架中，实现与现有推理算法的互操作性。
• 在弱于先前工作的条件下，为近似马尔可夫链提供严格的遍历性证明，表明当近似参数趋近于零时偏差会消失。
• 通过实证验证该方法在多种真实世界概率编程应用中的效率与准确性，且代码改动极少。

提出的方法

• 该方法构建一个概率执行轨迹（PET）图，用于追踪程序执行过程中随机变量之间的依赖关系，从而实现联合密度的因子分解。
• 与子采样数据项不同，该算法对PET图中的边进行子采样，通过随机忽略依赖关系来降低计算成本。
• 选择性地对依赖度高的潜变量（如回归或状态空间模型中的参数）应用近似MH更新，而对其他变量使用精确更新以保持平衡。
• 算法使用一种顺序检验来判断近似更新是否足够准确，该检验基于控制参数ε，该参数控制近似程度。
• 该方法被集成到高阶概率编程系统中，可无缝与现有推理策略（如粒子吉布斯和HMC）结合使用。
• 通过step_z参数平衡各变量的计算时间，确保参数的快速近似更新不会主导整体推理调度。

实验结果

研究问题

• RQ1 能否为概率程序中高度耦合的潜变量设计出超越独立同分布数据子采样范围的亚线性时间近似MCMC更新？
• RQ2 在动态构建的PET图中对边进行子采样，是否能在较弱条件下保持原始MCMC链的遍历性和收敛性？
• RQ3 单一的亚线性近似MH实现能否在多种概率模型（包括参数与非参数模型）中有效应用，且仅需极少代码修改？
• RQ4 该方法在多大程度上提升了推理效率，而未引入显著偏差，特别是在具有强潜状态依赖的模型中？
• RQ5 在不同模型类别中，亚线性近似MH相较于精确MH在每秒有效样本数（ESS）和收敛速度方面的表现如何？

主要发现

• 在贝叶斯逻辑斯蒂克回归和联合狄利克雷过程混合模型中，亚线性近似MH算法相较于精确MH实现了最高10倍的加速，且精度无显著损失。
• 在随机波动率模型中，尽管潜状态混合较慢，该方法的效率仍比精确MH高出约2倍，且样本与真实分布高度一致。
• 实证结果证实了每步更新的亚线性缩放特性，表明计算成本随观测数目的增长呈亚线性增长。
• 使用亚线性方法采样的参数（φ和σ）的直方图与精确MH结果高度吻合，表明当ε = 1e-3时偏差可忽略。
• 每秒有效样本数（ESS）显著高于亚线性方法，具体提升幅度为2倍至10倍，取决于模型复杂度和数据规模。
• 在三个应用中——贝叶斯逻辑斯蒂克回归、非参数混合模型和随机波动率模型——该方法均保持了高精度，且每个案例的代码量均少于20行。