[论文解读] Locally weighted Markov chain Monte Carlo

Espen Bernton, Shihao Yang+3 more|arXiv (Cornell University)|Jun 29, 2015

Markov Chains and Monte Carlo Methods参考文献 15被引用 4

一句话总结

本文提出局部加权马尔可夫链蒙特卡洛（LWMCMC）方法，通过为MCMC算法中的接受与拒绝提议分配自适应权重，在不增加计算成本的前提下提升统计效率。该方法利用基于转移概率或平稳分布的提议权重，降低估计器的方差——在相同条件下，相较于标准Metropolis-Hastings方法，有效样本量（ESS）提高了13%。

ABSTRACT

We propose a weighting scheme for the proposals within Markov chain Monte Carlo algorithms and show how this can improve statistical efficiency at no extra computational cost. These methods are most powerful when combined with multi-proposal MCMC algorithms such as multiple-try Metropolis, which can efficiently exploit modern computer architectures with large numbers of cores. The locally weighted Markov chain Monte Carlo method also improves upon a partial parallelization of the Metropolis-Hastings algorithm via Rao-Blackwellization. We derive the effective sample size of the output of our algorithm and show how to estimate this in practice. Illustrations and examples of the method are given and the algorithm is compared in theory and applications with existing methods.

研究动机与目标

• 在不增加计算成本的前提下，提升MCMC采样中的统计效率。
• 通过重新加权接受与拒绝的提议，解决标准MCMC和并行Metropolis-Hastings方法的低效问题。
• 提供一种框架，通过加权采样实现对多核架构的更好利用。
• 推导并估计加权MCMC输出的有效样本量（ESS），以支持性能比较。
• 证明LWMCMC可推广并改进现有方法，如Rao-Blackwellization和Calderhead的并行MH方法。

提出的方法

• 提出一种局部加权MCMC框架，其中每次迭代为当前状态和提议状态分配权重。
• 采用两种关键加权方案：一种基于接受概率（版本1），另一种基于提议转移矩阵的平稳分布（版本2）。
• 推导出目标期望的无偏估计量，使用加权和形式：$\hat{\mu}_h = \frac{1}{n}\sum_{j=1}^{n}\sum_{i=0}^{1}w(x_i^{(j)})h(x_i^{(j)})$。
• 证明该方法等价于对扩展并行MH算法的Rao-Blackwellization，可在不重采样的前提下降低方差。
• 推导出有效样本量（ESS）公式：$ESS = \frac{n}{\frac{\mathrm{Var}(\bar{x})}{\sigma^2}(1 + 2\sum_k \gamma_k)}$，其中$\gamma_k$为自相关系数。
• 证明当样本量$N \to \infty$时，LWMCMC收敛至与重采样方法相同的极限，但方差更低。

实验结果

研究问题

• RQ1 我们能否通过在每次迭代中为接受与拒绝的提议分配非均匀权重，来提升MCMC效率？
• RQ2 在有效样本量（ESS）方面，局部加权MCMC与标准Metropolis-Hastings和并行MH相比如何？
• RQ3 所提出的加权方案能否产生比标准MCMC方差更低的无偏估计量？
• RQ4 对于加权MCMC输出，什么是有效且实用的有效样本量（ESS）度量？
• RQ5 LWMCMC与Rao-Blackwellization及现有并行MCMC方法有何关系？

主要发现

• 在估计二元正态分布均值时，所提出的LWMCMC方法相较于标准Metropolis-Hastings，有效样本量（ESS）提高了13%。
• 在10,000次迭代下，标准MH的ESS为1,189，而基于平稳分布的版本2权重的ESS为1,359，显示出显著的方差降低。
• 基于接受概率的版本1权重的ESS为1,337，表明其相对于标准MH的一致性改进。
• 该方法在两种加权方案下均为无偏，且第二版本对应于提议转移矩阵的平稳分布。
• 通过全方差定律和协方差分解，已证明LWMCMC估计量的方差严格低于标准MH估计量的方差。
• 当重采样次数$N \to \infty$时，重采样基算法收敛至LWMCMC，但LWMCMC在无重采样开销下实现了更低的方差。