[论文解读] Adaptive Optimal Scaling of Metropolis-Hastings Algorithms Using the Robbins-Monro Process

Paul H. Garthwaite, Yanan Fan+1 more|arXiv (Cornell University)|Jun 18, 2010

Markov Chains and Monte Carlo Methods参考文献 14被引用 9

一句话总结

该论文提出了一种自适应算法，利用Robbins-Monro随机搜索过程自动优化随机游走Metropolis-Hastings采样器中的缩放参数，实现目标接受率（例如，多变量目标的0.234）。该方法引入了一种简单的临界步长常数估计器，在递减适应和包含性条件下确保收敛性，并在模拟和真实数据示例中展示了其高效性。

ABSTRACT

We present an adaptive method for the automatic scaling of Random-Walk Metropolis-Hastings algorithms, which quickly and robustly identifies the scaling factor that yields a specified overall sampler acceptance probability. Our method relies on the use of the Robbins-Monro search process, whose performance is determined by an unknown steplength constant. We give a very simple estimator of this constant for proposal distributions that are univariate or multivariate normal, together with a sampling algorithm for automating the method. The effectiveness of the algorithm is demonstrated with both simulated and real data examples. This approach could be implemented as a useful component in more complex adaptive Markov chain Monte Carlo algorithms, or as part of automated software packages.

研究动机与目标

• 自动化随机游走Metropolis-Hastings算法中提议尺度参数的调优，减少对人工校准的依赖。
• 解决在高维或相关参数空间中人工调优不切实际的缩放挑战。
• 开发一种稳健的自动方法，通过自适应调整提议方差实现期望的接受概率（例如，0.234）。
• 估计Robbins-Monro过程中最优步长常数，以实现更快、更稳定的收敛。
• 通过满足递减适应和包含性条件，确保所得自适应MCMC算法保持遍历性。

提出的方法

• 采用Robbins-Monro随机逼近过程，基于接受结果迭代调整提议尺度参数σ。
• 使用随迭代次数i递减为1/i的步长，满足保证遍历性的递减适应条件。
• 利用目标接受概率p*（例如，多变量目标的0.234）指导寻找最优σ的搜索。
• 基于σ→0时的渐近行为，通过在σ*处求导dp(σ)/dσ，推导出步长常数c*的闭式估计器。
• 对于多变量正态提议，当σ→0时p(σ)→1，该方法使用简单估计器c* ≈ σ*/(1−p*)。
• 通过在每次提议后更新σ的采样算法，将自适应缩放集成到MCMC中，接受时增加σ，拒绝时减少σ。

实验结果

研究问题

• RQ1 Robbins-Monro过程能否有效应用于自动调优随机游走Metropolis-Hastings算法中的尺度参数？
• RQ2 Robbins-Monro过程中MCMC缩放的最优步长常数是多少，如何高效估计？
• RQ3 所提出的自适应方法是否在保持遍历性的同时实现了理论上的最优接受率（例如，0.234）？
• RQ4 在高维或相关参数空间中，该自适应算法的性能与人工调优相比如何？
• RQ5 能否为多变量正态提议分布推导出步长常数的简单闭式估计器？

主要发现

• 所提方法通过自适应调整成功识别出能产生目标接受概率p*（例如，0.234）的最优缩放参数σ*。
• 在σ→0的极限下，为多变量正态提议推导出简单估计器c* ≈ σ*/(1−p*)，该估计器有效。
• 该算法满足递减适应和包含性条件，确保所得马尔可夫链的遍历性。
• 模拟和真实数据示例表明，该方法无需人工调优即可快速且稳健地收敛至目标接受率。
• 该方法计算高效，适合集成到自动化MCMC软件包中。
• 该方法在高维或相关设置中优于朴素调优策略，尤其在人工校准不可行时表现更优。