[论文解读] Pseudo-Marginal Slice Sampling

Iain Murray, Matthew M. Graham|arXiv (Cornell University)|Oct 10, 2015

Forensic Anthropology and Bioarchaeology Studies被引用 6

一句话总结

本文提出伪边缘切片抽样（pseudo-marginal slice sampling），一种通过将无偏估计器中使用的随机数视为可更新的辅助变量，并利用切片抽样或其他自适应MCMC方法进行更新，从而提升伪边缘MCMC的鲁棒性与混合效率的框架。通过固定并迭代更新这些辅助变量，该方法可减轻由高方差估计器引起的‘卡住’行为，实现更快收敛与性能提升，且无需手动调参。

ABSTRACT

Markov chain Monte Carlo (MCMC) methods asymptotically sample from complex probability distributions. The pseudo-marginal MCMC framework only requires an unbiased estimator of the unnormalized probability distribution function to construct a Markov chain. However, the resulting chains are harder to tune to a target distribution than conventional MCMC, and the types of updates available are limited. We describe a general way to clamp and update the random numbers used in a pseudo-marginal method's unbiased estimator. In this framework we can use slice sampling and other adaptive methods. We obtain more robust Markov chains, which often mix more quickly.

研究动机与目标

• 解决在使用高方差估计器时，伪边缘MCMC中常见的混合差与‘卡住’行为问题。
• 通过将估计器的随机性视为可更新的辅助变量，使自适应MCMC方法（如切片抽样）能够被引入伪边缘框架中。
• 提供一种无需调参、鲁棒性强的伪边缘MCMC替代方案，在保持精确边缘推断的同时提升链的效率。
• 证明更新辅助随机数可显著降低自相关性，并在高斯过程模型和伊辛模型等实际应用中提升收敛性。

提出的方法

• 该方法引入一种辅助变量框架，将无偏估计器中使用的随机数视为马尔可夫链状态的一部分，从而使其在抽样过程中可被更新。
• 通过允许使用切片抽样或其他自适应MCMC方法更新辅助变量（如估计器中的随机抽样），扩展了标准伪边缘MCMC算法。
• 该框架支持使用反射切片抽样和椭圆切片抽样来更新辅助随机性，且无需手动调校提议分布。
• 该方法在保持目标参数θ的精确边缘分布的同时，通过允许链逃离高估计器方差区域来改善混合性能。
• 该方法仅需极少代码修改：用户可简单地固定估计器的随机种子，或用包含辅助变量的马尔可夫链状态访问随机数生成过程。
• 该方法与现有伪边缘实现向后兼容，可应用于任意无偏估计器，包括重要性抽样、粒子方法或随机级数截断方法。

实验结果

研究问题

• RQ1 能否在伪边缘MCMC方法中有效应用切片抽样于辅助随机数，以改善混合性能并减少卡住现象？
• RQ2 更新无偏估计器中使用的随机数是否能显著加快目标参数链的收敛速度并降低自相关性？
• RQ3 该框架能否在真实世界模型（如具有不可计算归一化常数的高斯过程模型或伊辛模型）中应用，且无需手动调参？
• RQ4 更新辅助变量的计算开销与在混合效率和收敛速度方面的性能增益相比如何？
• RQ5 该方法对重尾或表现不佳的估计器是否具有鲁棒性，特别是在标准伪边缘MCMC因估计器噪声而完全无法移动的情况下？

主要发现

• 所提方法显著减少了伪边缘MCMC中的链卡住现象，尤其在高方差或重尾估计器场景下，如使用退火重要性抽样的伊辛模型。
• 对辅助随机变量进行切片抽样可实现自相关性更快衰减与更优的混合性能，该结论在伊辛模型和乳腺癌数据集实验中均得到验证。
• 在乳腺癌数据集上的高斯过程模型中，辅助伪边缘方法（SS+MH）相比标准伪边缘MH展现出显著更优的混合性能与更少的卡住事件。
• 所提方法的计算成本与标准伪边缘MCMC基本相当，SS+MH的每步更新耗时仅比MI+MH高出约6%（在相同实现下）。
• 实验表明，使用椭圆切片抽样更新辅助变量相比独立Metropolis采样，在采样效率上实现了微小但可观测的提升。
• 该方法成功实现了在标准伪边缘MCMC因估计器噪声而失效的场景下的稳健抽样，包括在伊辛模型中经历百万次迭代后突然发生卡住事件的情况。