[论文解读] Taking Bigger Metropolis Steps by Dragging Fast Variables

Radford M. Neal|ArXiv.org|Feb 6, 2005

Markov Chains and Monte Carlo Methods参考文献 5被引用 57

一句话总结

本文提出了一种马尔可夫链蒙特卡洛（MCMC）采样方法，通过在能量函数快速重计算的中间过渡中‘拖动’快变量，使慢变量能够执行更大、更高效的步骤。实验结果表明，即使慢变量的边缘分布无法直接计算，该方法仍能接近直接从慢变量边缘分布采样的效率。

ABSTRACT

I show how Markov chain sampling with the Metropolis-Hastings algorithm can be modified so as to take bigger steps when the distribution being sampled from has the characteristic that its density can be quickly recomputed for a new point if this point differs from a previous point only with respect to a subset of 'fast' variables. I show empirically that when using this method, the efficiency of sampling for the remaining 'slow' variables can approach what would be possible using Metropolis updates based on the marginal distribution for the slow variables.

研究动机与目标

• 为解决当联合分布的完整能量计算成本高昂时，慢变量的马尔可夫链蒙特卡洛更新效率低下的挑战。
• 开发一种利用快变量重计算的机制，使在MCMC采样中对慢变量执行更大、更有效的步骤。
• 在无需显式计算该边缘分布的前提下，近似实现从慢变量边缘分布直接采样的效率。
• 通过实证结果表明，通过中间过渡‘拖动’快变量可显著降低MCMC链的自相关性并改善混合性。

提出的方法

• 使用提议分布 $S(x^*|x)$ 为慢变量 $x$ 提出一个新的状态 $x^*$。
• 定义快变量 $y$ 上的中间分布 $\rho(y;x,x^*) \propto \exp\left(-\frac{1}{2}(E(x,y) + E(x^*,y))\right)$。
• 使用一个转移核 $T(y'|y;x,x^*)$，使其保持 $\rho$ 不变，并满足关于 $x$ 和 $x^*$ 的细致平衡与对称性。
• 执行一次或多次中间过渡，仅通过快速重计算 $E(x,y)$ 从 $T(y^*|y;x,x^*)$ 生成 $y^*$。
• 以接受概率 $a(x,y,x^*,y^*) = \min\left[1, \frac{S(x|x^*)\pi(x^*,y^*)\rho(y;x,x^*)}{S(x^*|x)\pi(x,y)\rho(y^*;x,x^*)}\right]$ 接受提议状态 $(x^*,y^*)$。
• 在中间过渡次数趋于无穷的极限下，该方法渐近逼近从慢变量 $x$ 的边缘分布采样的效率。

实验结果

研究问题

• RQ1 我们能否设计一种马尔可夫链蒙特卡洛算法，通过在仅快变量变化时快速重计算能量函数，使慢变量能执行更大的步骤？
• RQ2 通过中间分布‘拖动’快变量，能在多大程度上近似实现从慢变量边缘分布直接采样的效率？
• RQ3 中间过渡的次数如何影响慢变量的马尔可夫链自相关性和混合效率？
• RQ4 在具有快慢变量分离的高维设置下，该方法与标准联合更新、单变量更新或边缘更新相比表现如何？

主要发现

• 当使用500次中间过渡时，慢变量 $x$ 的自相关时间降低至约9.3，接近于从边缘分布采样时的最优值7.4。
• 外层 $x$-更新的拒绝率从联合更新的87%下降至500次中间过渡时的52%，表明混合性显著改善。
• 尽管慢变量的边缘分布无法显式计算，该方法仍实现了接近最优的采样效率，与直接从 $x$ 的真实边缘分布采样相当。
• 当增加第二个快变量 $z$ 时，联合更新的自相关时间从约75上升至约205，而该方法仅从约7.4上升至约9.3，表明其对快变量维度增加具有鲁棒性。
• 当 $x$ 与 $y$ 之间的关系为非单调或未知时（如宇宙学参数推断场景），该方法依然有效。