[论文解读] Marginal sequential Monte Carlo for doubly intractable models

Richard G. Everitt, Dennis Prangle+2 more|arXiv (Cornell University)|Oct 12, 2017

Markov Chains and Monte Carlo Methods参考文献 9被引用 6

一句话总结

本文提出了一种用于双重不可行模型的边缘序蒙特卡洛（SMC）方法，其中分区函数不可行，通过使用自适应似然估计和替代退火序列来实现。该方法通过自适应方差减少和超越数据点退火的推广，改进了现有的伪边缘SMC方法，实现了更高效的推断。实证结果表明，该方法在性能上优于ABC和标准SMC方法。

ABSTRACT

Bayesian inference for models that have an intractable partition function is known as a doubly intractable problem, where standard Monte Carlo methods are not applicable. The past decade has seen the development of auxiliary variable Monte Carlo techniques (Møller et al., 2006; Murray et al., 2006) for tackling this problem; these approaches being members of the more general class of pseudo-marginal, or exact-approximate, Monte Carlo algorithms (Andrieu and Roberts, 2009), which make use of unbiased estimates of intractable posteriors. Everitt et al. (2017) investigated the use of exact-approximate importance sampling (IS) and sequential Monte Carlo (SMC) in doubly intractable problems, but focussed only on SMC algorithms that used data-point tempering. This paper describes SMC samplers that may use alternative sequences of distributions, and describes ways in which likelihood estimates may be improved adaptively as the algorithm progresses, building on ideas from Moores et al. (2015). This approach is compared with a number of alternative algorithms for doubly intractable problems, including approximate Bayesian computation (ABC), which we show is closely related to the method of Møller et al. (2006).

研究动机与目标

• 解决分区函数不可行（即双重不可行问题）模型中的贝叶斯推断挑战。
• 开发一种更高效的序蒙特卡洛（SMC）采样器，避免依赖于数据点退火，从而支持灵活的分布序列。
• 在SMC执行过程中，通过Moores等人（2015）提出的技术自适应改进似然估计，减少伪边缘估计中的方差。
• 建立近似贝叶斯计算（ABC）与多重辅助变量（MAV）方法之间的正式联系，表明在特定设计选择下二者等价。
• 通过实证评估和比较，将所提出的SMC方法与现有方法（包括ABC和采用数据点退火的SMC）进行对比。

提出的方法

• 提出一种边缘SMC算法，使用对不可行似然比的无偏估计，实现无需完整后验评估的精确-近似推断。
• 通过基于过去模拟结果更新提议分布和似然估计器，在SMC中采用自适应重要性采样以减少方差。
• 通过允许任意中间分布序列，将SMC框架推广至超越数据点退火的范围，提升灵活性和收敛性。
• 使用带多个中间目标的退火重要性采样（AIS），构建对分区函数比 $ Z(\hat{\theta})/Z(\theta) $ 的改进、无偏估计。
• 通过证明在详细平衡和可逆核条件下，精心设计的ABC方案若包含完整数据模拟，则与MAV方法产生相同的估计器，从而建立ABC似然估计器与MAV方法之间的联系。
• 通过将伪边缘原理应用于SMC，将估计的似然视为随机权重，确保边缘目标分布保持为真实后验 $ \pi(\theta|y) $。

实验结果

研究问题

• RQ1 通过使用自适应似然估计和非数据点退火序列，能否使用于双重不可行模型的SMC采样器更加高效？
• RQ2 在有效样本量和方差减少方面，所提出的边缘SMC方法与采用数据点退火的标准SMC方法以及ABC方法相比表现如何？
• RQ3 在何种条件下，使用完整数据模拟的ABC方法与MAV方法在所得似然估计器上等价？
• RQ4 使用多个辅助变量和退火是否能提高伪边缘SMC在双重不可行模型中的准确性和稳定性？
• RQ5 在SMC执行过程中，对似然估计的自适应改进在多大程度上能减少权重函数的方差并提升采样效率？

主要发现

• 所提出的结合自适应似然估计的边缘SMC方法在有效样本量方面优于采用数据点退火的标准SMC方法，表明采样效率更高。
• 即使在方差最低的形式下，该方法在使用充分统计量时仍优于ABC，表明在此情境下基于MAV的方法比标准ABC更有效。
• 通过使用完整数据和反向时间MCMC链精心设计的ABC算法，其估计器与MAV方法完全相同，证实了在可逆核和详细平衡条件下的理论等价性。
• 使用多个中间目标的退火重要性采样（AIS）相比标准IS，能更准确、更稳定地估计分区函数比，尤其当 $ Z(\theta) $ 变化较大时优势更明显。
• 在SMC执行过程中对似然估计的自适应改进显著降低了权重函数的方差，从而带来更稳定和准确的后验近似。
• 理论分析确认，即使使用对不可行似然的无偏估计，所提出的SMC方法仍能保持正确的边缘目标分布 $ \pi(\theta|y) $，这是伪边缘原理的直接结果。