[论文解读] On Optimal Scaling of Additive Transformation Based Markov Chain Monte Carlo

Kushal K. Dey, Sourabh Bhattacharya|arXiv (Cornell University)|Jul 4, 2013

Markov Chains and Monte Carlo Methods被引用 4

一句话总结

本文研究了基于加法变换的马尔可夫链蒙特卡洛（TMCMC）方法的最优缩放，该方法通过单个一维随机抽样更新高维参数。在各种目标分布下推导了扩散极限，并表明TMCMC实现了0.439的最优接受率——显著高于随机游走Metropolis的0.234——从而在多种模型和空间数据应用中实现更快收敛和更优性能。

ABSTRACT

Study of diffusion limits of the Metropolis-Hastings algorithm in high dimensions yields useful quantificaton of the scaling of the underlying proposal distribution in terms of the dimensionality. Here we consider the recently introduced Transformation-based Markov Chain Monte Carlo (TMCMC) (Dutta and Bhattacharya (2013a)), a methodology that is designed to update all the parameters simultaneously using some simple deterministic transformation of a one-dimensional random variable drawn from some arbitrary distribution on a relevant support. The additive transformation based TMCMC is similar in spirit to random walk Metropolis, except the fact that unlike the latter, additive TMCMC uses a single draw from a one-dimensional proposal distribution to update the high-dimensional parameter. In this paper, we study the diffusion limits of additive TMCMC under various set-ups ranging from the product structure of the target density to the case where the target is absolutely continuous with respect to a Gaussian measure; we also consider the additive TMCMC within Gibbs approach for all the above set-ups. These investigations lead to appropriate scaling of the one-dimensional proposal density. We also show that the optimal acceptance rate of additive TMCMC is 0.439 under all the aforementioned set-ups, in contrast with the well-established 0.234 acceptance rate associated with optimal random walk Metropolis algorithms under the same set-ups. We also elucidate the ramifications of our results and the advantages of additive TMCMC over random walk Metropolis with ample simulation studies. It was found that in all set ups we considered- namely iid component set up, independent scaling components, a wide range of dependent set ups as well as real spatial data application- TMCMC performed much better and converged to the target density much faster than the RWMH algorithm.

研究动机与目标

• 研究在各种目标密度结构（包括乘积结构和高斯相关目标）下，加法TMCMC的扩散极限。
• 确定在高维参数空间中，一维提议分布的最优缩放。
• 比较加法TMCMC与随机游走Metropolis-Hastings（RWMH）在收敛速度和混合效率方面的表现。
• 评估在不同依赖结构下，TMCMC在Gibbs采样框架中的有效性。
• 通过广泛的模拟研究和真实空间数据应用，展示TMCMC相较于RWMH的实际优势。

提出的方法

• 在高维渐近框架下推导加法TMCMC的扩散极限，假设各分量独立同分布、独立缩放，并考虑一般依赖结构。
• 应用功能中心极限定理论证，刻画TMCMC算法的极限扩散过程。
• 使用一维随机变量的确定性变换在高维参数空间中提出移动，同时保持细致平衡。
• 同时考虑独立运行的TMCMC以及在Gibbs采样器中应用的TMCMC，以提升结构化模型中的混合效果。
• 基于扩散极限分析推导提议分布的缩放规则，以实现最优性能。
• 通过模拟研究验证理论发现，并在多种情景下比较与RWMH的收敛速率。

实验结果

研究问题

• RQ1 在高维乘积目标下，加法TMCMC中一维提议分布的最优缩放是什么？
• RQ2 在相同目标分布下，加法TMCMC的扩散极限与随机游走Metropolis相比如何？
• RQ3 何种接受率能优化加法TMCMC在不同目标密度结构下的性能？
• RQ4 在独立和依赖参数设置下，TMCMC相较于RWMH在收敛速度和混合方面表现如何？
• RQ5 在具有复杂依赖结构的真实空间数据应用中，TMCMC能否保持更优性能？

主要发现

• 在所有考虑的目标分布中，包括独立同分布、独立缩放和依赖结构，加法TMCMC的最优接受率为0.439。
• 该最优接受率显著高于在相同设定下随机游走Metropolis的0.234，表明采样效率更高。
• 在所有模拟设置中，包括高维和空间相关模型，加法TMCMC比RWMH更快收敛至目标分布。
• 即使在RWMH因混合效果差而表现不佳的复杂依赖参数结构中，TMCMC仍保持优异性能。
• 模拟研究证实，TMCMC在所有测试情景下均实现了更高的有效样本量和更低的自相关性，优于RWMH。
• 基于扩散极限推导出的理论缩放规则，可产生实际中稳定且高效的提议分布，适用于高维空间。