[论文解读] The Block Pseudo-Marginal Sampler

Minh‐Ngoc Tran, Robert Kohn+2 more|arXiv (Cornell University)|Mar 8, 2016

Mathematical Approximation and Integration参考文献 27被引用 12

一句话总结

本文提出了块伪边际（Block Pseudo-Marginal, BPM）采样器，这是一种针对似然函数不可计算的贝叶斯推断问题的高效伪边际MCMC方法变体。通过将蒙特卡罗随机数划分为多个块，并仅逐次更新其中一个块，BPM显著提高了当前参数与提议参数下似然估计之间的相关性，从而大幅改善混合性能并降低计算成本——尤其在子采样和随机准蒙特卡罗设置中表现更优，优于标准伪边际方法与相关伪边际方法，在高似然方差的复杂场景中展现出更强的性能。

ABSTRACT

The pseudo-marginal (PM) approach is increasingly used for Bayesian inference in statistical models, where the likelihood is intractable but can be estimated unbiasedly. %Examples include random effect models, state-space models and data subsampling in big-data settings. Deligiannidis et al. (2016) show how the PM approach can be made much more efficient by correlating the underlying Monte Carlo (MC) random numbers used to form the estimate of the likelihood at the current and proposed values of the unknown parameters. Their approach greatly speeds up the standard PM algorithm, as it requires a much smaller number of samples or particles to form the optimal likelihood estimate. Our paper presents an alternative implementation of the correlated PM approach, called the block PM, which divides the underlying random numbers into blocks so that the likelihood estimates for the proposed and current values of the parameters only differ by the random numbers in one block. We show that this implementation of the correlated PM can be much more efficient for some specific problems than the implementation in Deligiannidis et al. (2016); for example when the likelihood is estimated by subsampling or the likelihood is a product of terms each of which is given by an integral which can be estimated unbiasedly by randomised quasi-Monte Carlo. Our article provides methodology and guidelines for efficiently implementing the block PM. A second advantage of the the block PM is that it provides a direct way to control the correlation between the logarithms of the estimates of the likelihood at the current and proposed values of the parameters than the implementation in Deligiannidis et al. (2016). We obtain methods and guidelines for selecting the optimal number of samples based on idealized but realistic assumptions.

研究动机与目标

• 为解决标准伪边际MCMC在似然方差随数据规模增长时效率低下的问题，特别是在似然函数不可计算的模型中。
• 开发一种新的相关伪边际采样实现方式，通过在块之间结构化随机数依赖关系，提升混合性能并降低计算成本。
• 在现实假设下，为选择最优样本大小与块结构提供实用指导。
• 实现对当前与提议参数下对数似然估计之间相关性的更优控制，超越Deligiannidis等人（2016）的方法所能达到的控制程度。
• 在似然方差较高的估计场景（如子采样与随机准蒙特卡罗）中，展示块PM相较于独立PM与标准相关PM方法的优越性能。

提出的方法

• 块PM将蒙特卡罗随机数集合划分为互不相交的块，使得当前与提议参数下的似然估计仅在单个块的随机数上有所不同。
• 采用马尔可夫链蒙特卡罗中的Metropolis-Hastings算法，联合更新参数与一个随机数块，确保当前与提议值下对数似然估计之间的高度相关性。
• 该方法假设似然可表示为各项乘积，每项可通过无偏蒙特卡罗或随机准蒙特卡罗方法独立估计，从而实现分块估计。
• 在理想但现实的假设下，推导出每块最优样本数的理论指导，重点是最小化积分自相关时间（IACT）。
• 该方法被应用于扩散过程（如CIR模型）与子采样问题，其在接受率与计算效率方面均优于独立PM与相关PM方法。
• 理论分析表明，当似然方差较高时，BPM的混合性能优于Deligiannidis等人方法，原因在于其对对数似然估计相关性的更强且更可控的关联。

实验结果

研究问题

• RQ1 当似然函数不可计算时，蒙特卡罗随机数的分块结构是否能提升伪边际MCMC的效率？
• RQ2 在混合性能与计算成本方面，块PM相较于独立PM与相关PM（Deligiannidis等，2016）表现如何？
• RQ3 块PM是否能比现有方法更直接地控制当前与提议参数下对数似然估计之间的相关性？
• RQ4 在现实假设下，块PM的最优样本大小与块结构是什么？
• RQ5 在哪些场景下（如子采样或随机准蒙特卡罗）中，块PM相较于现有方法具有显著优势？

主要发现

• 与独立PM相比，块PM在积分自相关时间（IACT）比值上实现了10.45倍的提升，同时CPU时间减少约10倍。
• 块PM的接受率为25.8%，远高于独立PM的4.9%，表明其混合性能显著提升，随机游走行为明显减少。
• 在FedFunds数据集（745个观测值）中，块PM优于独立PM与Deligiannidis等人（2016）的相关PM方法，尤其在似然方差较高的估计场景中表现更优。
• 块PM可直接控制当前与提议参数下对数似然估计之间的相关性，从而实现更优的调参与性能，优于Deligiannidis等人（2016）的方法。
• 在现实假设下推导出的理论指导成功预测了最优样本大小与块配置，在高方差场景中显著提升了效率。
• 块PM在子采样与随机准蒙特卡罗应用中尤为有效，可在保持精度的同时显著减少每块所需样本数。