[论文解读] Optimal scalings for local Metropolis--Hastings chains on nonproduct targets in high dimensions

Alexandros Beskos, Gareth O. Roberts+1 more|UCL Discovery (University College London)|Aug 6, 2009

Markov Chains and Monte Carlo Methods被引用 15

一句话总结

本文推导了在高维非乘积目标分布下，局部 Metropolis-Hastings 算法——随机游走 Metropolis (RWM) 和简化 Langevin 算法 (SLA) 的最优缩放。结果表明，当目标测度由具有方差衰减 λᵢ = i⁻ᵏ 的乘积律通过测度变换定义时，RWM 的最优步长缩放为 σ²ₙ = O(n⁻²ᵏ⁻¹)，SLA 的最优步长缩放为 σ²ₙ = O(n⁻²ᵏ⁻¹ᐟ³)，从而在高维贝叶斯推断和随机 PDE 问题中实现高效探索与最优接受率。

ABSTRACT

We investigate local MCMC algorithms, namely the random-walk Metropolis and the Langevin algorithms, and identify the optimal choice of the local step-size as a function of the dimension $n$ of the state space, asymptotically as $n o\infty$. We consider target distributions defined as a change of measure from a product law. Such structures arise, for instance, in inverse problems or Bayesian contexts when a product prior is combined with the likelihood. We state analytical results on the asymptotic behavior of the algorithms under general conditions on the change of measure. Our theory is motivated by applications on conditioned diffusion processes and inverse problems related to the 2D Navier--Stokes equation.

研究动机与目标

• 确定在 n → ∞ 时，高维状态空间中局部 MCMC 算法（RWM 与 SLA）的提议方差 σ²ₙ 的最优缩放。
• 将先前针对 i.i.d. 目标的结果扩展至由乘积律测度变换产生的非乘积目标分布，尤其适用于贝叶斯反问题与随机 PDE。
• 建立对对数密度 φₙ 的解析条件，使得 MCMC 算法的渐近行为仅依赖于参考测度方差 λᵢ = i⁻ᵏ 的衰减速率 κ，而不依赖于 φₙ 的具体结构。
• 证明在 SLA 提议中使用参考测度 ˜πₙ 而非真实 πₙ 的合理性，表明该简化可保持渐近效率。
• 为涉及条件扩散过程和二维 Navier–Stokes 方程反问题的高维问题中的高效 MCMC 采样提供理论基础。

提出的方法

• 将目标分布 πₙ 表征为通过 dπₙ/d˜πₙ(x) = exp{−φₙ(x)} 从乘积参考测度 ˜πₙ 变换而来，其中 φₙ 满足一般正则性条件。
• 分析随机游走 Metropolis (RWM) 和简化 Langevin 算法 (SLA)，其提议分别为 y = x + σₙZ 和 y = x + σₙ²/2 ∇log ˜πₙ(x) + σₙZ。
• 以平均平方跳跃距离作为 MCMC 效率的代理指标，从而实现对极限接受概率与混合时间的显式渐近计算。
• 应用泛函分析工具，包括 Sobolev 嵌入与 Karhunen–Loève 展开，以控制高维空间中路径上 φₙ 的变化。
• 通过分析在提议下对数密度比 φₙ(y) − φₙ(x) 的渐近分布，推导接受概率与平方跳跃距离的极限行为。
• 证明最优缩放依赖于参考方差 λᵢ = i⁻ᵏ 的衰减速率 κ，其中 τ_RWM 与 τ_SLA 分别定义为平方跳跃距离的极限方差。

实验结果

研究问题

• RQ1 对于 RWM 与 SLA，在非乘积目标上实现最优混合时，步长 σₙ 应如何随维度 n 缩放？
• RQ2 参考测度方差 λᵢ = i⁻ᵏ 中的衰减速率 κ 对 MCMC 算法最优缩放有何影响？
• RQ3 仅使用参考测度梯度的简化 Langevin 算法 (SLA) 是否能实现与完整 MALA 相同的渐近效率？
• RQ4 对对数密度 φₙ 需满足何种条件，才能使 RWM 与 SLA 的渐近行为仅依赖于衰减速率 κ，而不依赖于 φₙ 的具体结构？
• RQ5 理论缩放结果如何应用于具体问题，如条件扩散过程与二维 Navier–Stokes 方程的反问题？

主要发现

• 对于 RWM，最优步长缩放为 σ²ₙ = O(n⁻²ᵏ⁻¹)，确保极限接受概率收敛至非退化常数（当 κ = 0 时约为 0.234）。
• 对于 SLA，最优步长缩放为 σ²ₙ = O(n⁻²ᵏ⁻¹ᐟ³)，在相同条件下极限接受概率趋近于约 0.522。
• 当使用参考测度 ˜πₙ 的梯度而非真实目标 πₙ 的梯度时，SLA 的渐近效率得以保持，从而证明了简化提议的合理性。
• RWM 的平均平方跳跃距离的极限行为收敛至 τ_RWM = limₙ n⁻²ᵏ⁻¹ ∑ᵢ₌₁ⁿ λᵢ⁻²，当假设 λᵢ = i⁻ᵏ 时，该值为有限正数。
• 在二维 Navier–Stokes 反问题中，当 κ = 1 时，最优缩放为 σ²ₙ = O(n⁻³)，对应参考方差 λᵢ ∝ i⁻¹ 的衰减速率。
• 结果对代数衰减 λᵢ,n = i⁻ᵏⁿ 且 kⁿ → κ 的情形具有鲁棒性，极限常数依赖于 n⁻²ᵏ⁻¹ ∑ᵢ₌₁ⁿ λᵢ⁻² 的极限，推广了 i.i.d. 情况（κ = 0）的结果。