[论文解读] Parameter elimination in particle Gibbs sampling

Anna Wigren, Riccardo Sven Risuleo+2 more|arXiv (Cornell University)|Oct 30, 2019

Statistical Methods and Bayesian Inference被引用 4

一句话总结

本文提出了边际化粒子吉布斯采样（mPG）和边际化粒子吉布斯采样带祖先重采样（mPGAS），通过在状态更新步骤中消除参数，改进了状态空间模型中的贝叶斯推断。通过利用共轭先验对参数进行边际化，该方法在极限情况下实现独立样本，其自相关性低于标准PG/PGAS方法，同时通过充分统计量保持线性时间复杂度。

ABSTRACT

Bayesian inference in state-space models is challenging due to high-dimensional state trajectories. A viable approach is particle Markov chain Monte Carlo, combining MCMC and sequential Monte Carlo to form "exact approximations" to otherwise intractable MCMC methods. The performance of the approximation is limited to that of the exact method. We focus on particle Gibbs and particle Gibbs with ancestor sampling, improving their performance beyond that of the underlying Gibbs sampler (which they approximate) by marginalizing out one or more parameters. This is possible when the parameter prior is conjugate to the complete data likelihood. Marginalization yields a non-Markovian model for inference, but we show that, in contrast to the general case, this method still scales linearly in time. While marginalization can be cumbersome to implement, recent advances in probabilistic programming have enabled its automation. We demonstrate how the marginalized methods are viable as efficient inference backends in probabilistic programming, and demonstrate with examples in ecology and epidemiology.

研究动机与目标

• 为解决粒子吉布斯采样和PGAS的局限性，即无法超越其近似的目标不可行吉布斯采样。
• 通过从状态更新步骤中消除参数，降低MCMC样本的自相关性。
• 通过将模型转化为非马尔可夫但线性可扩展的形式，实现在共轭先验下的高效推断。
• 在Birch等概率编程框架中，展示边际化PMCMC方法的可行性和高效性。
• 提供一种使用现代概率编程工具自动实现参数边际化的实用方法。

提出的方法

• 通过利用先验与完整数据似然之间的共轭性，从状态更新中边际化静态参数。
• 推导出PG和PGAS的边际化版本（mPG/mPGAS），使其从边际后验p(x₀:T|y₁:T)中采样状态，与参数无关。
• 在SMC算法中使用充分统计量，尽管边际化引入了非马尔可夫依赖关系，仍保持线性时间复杂度。
• 在概率编程语言Birch中实现该方法，实现自动边际化并集成到现有推断流程中。
• 采用阻塞策略处理扩散先验的情况，结合cSMC和mcSMC更新以提高鲁棒性。
• 利用概率编程的最新进展，实现边际化的自动化，降低手动实现的负担。

实验结果

研究问题

• RQ1 在粒子吉布斯采样中，从状态更新中边际化参数是否能实现比标准PG/PGAS更快的混合速度和更低的自相关性？
• RQ2 参数边际化是否能使采样器在粒子数趋于无穷的极限下生成近似独立的样本，即使原始吉布斯采样器产生依赖样本？
• RQ3 尽管引入了非马尔可夫依赖关系，边际化SMC的计算成本是否仍能保持与时间步数的线性关系？
• RQ4 如何将边际化自动化并集成到概率编程框架中以实现实际应用？
• RQ5 在真实世界的生态学和流行病学模型中，应用边际化PMCMC时，性能提升和局限性如何？

主要发现

• 在粒子数趋于无穷的极限下，mPG和mPGAS实现独立样本，自相关函数在滞后1处降至零，而标准PGAS则收敛至相关吉布斯采样器，表现更优。
• 边际化采样器显著降低了自相关性，mPG在合成模型和真实世界模型中均表现出比PG和PGAS更快的收敛速度和更低的依赖性。
• 在歌雀种群模型中，密度调节参数c的估计分布与文献值一致，验证了该方法的准确性。
• 通过使用充分统计量，该方法即使在边际化后导致模型变为非马尔可夫性，仍保持线性时间复杂度。
• 数值结果表明，mPG和mPGAS在有效样本量和收敛速度方面优于标准PGAS，尤其在高维状态空间中表现更优。
• 在Birch中的实现支持自动边际化，证明该方法在实际中可行且可无缝集成到现代概率编程工作流中。