[论文解读] On the random walk metropolis algorithm for Gaussian random field priors and the gradient flow

Natesh S. Pillai, Andrew M. Stuart+1 more|arXiv (Cornell University)|Aug 6, 2011

Markov Chains and Monte Carlo Methods参考文献 27被引用 3

一句话总结

该论文证明，在希尔伯特空间上使用正态提议的梅特罗波利斯-哈斯廷斯随机行走，在扩散缩放下收敛到一个带有噪声的梯度流SDE。该SDE关于目标测度是可逆的，并由一个空间相关性与底层高斯结构相匹配的维纳过程驱动。

ABSTRACT

Consider a probability measure on a Hilbert space defined via its density with respect to a Gaussian. The purpose of this paper is to demonstrate that an appropriately defined Markov chain, which is reversible with respect to the measure in question, exhibits a diffusion limit to a noisy gradient flow, also reversible with respect to the same measure. The Markov chain is defined by applying a Metropolis-Hastings accept-reject mechanism to an Ornstein-Uhlenbeck proposal which is itself reversible with respect to the underlying Gaussian measure. The resulting noisy gradient flow is a stochastic partial differential equation driven by a Wiener process with spatial correlation given by the underlying Gaussian structure.

研究动机与目标

• 分析在希尔伯特空间上使用Ornstein-Uhlenbeck提议的梅特罗波利斯-哈斯廷斯算法的扩散极限。
• 建立极限过程为一个关于目标测度可逆的随机PDE（带有噪声的梯度流）。
• 表征极限SDE中噪声的空间相关性，该相关性继承自底层高斯测度。
• 形式化离散梅特罗波利斯链与无限维贝叶斯推断中连续梯度流动力学之间的联系。

提出的方法

• 在希尔伯特空间上通过使用Ornstein-Uhlenbeck提议的梅特罗波利斯-哈斯廷斯算法定义一个关于目标测度可逆的马尔可夫链。
• 确保提议机制相对于基础高斯测度是可逆的。
• 对马尔可夫链应用扩散缩放，以推导其弱极限。
• 证明极限过程是一个由协方差结构与高斯先验匹配的维纳过程驱动的随机PDE。
• 证明极限SDE关于通过相对于高斯测度的密度定义的目标测度是可逆的。
• 使用泛函分析工具，证明有限维分布收敛到SDE解。

实验结果

研究问题

• RQ1 在扩散缩放下，使用高斯提议的梅特罗波利斯-哈斯廷斯随机行走是否收敛到一个连续时间随机过程？
• RQ2 极限随机过程的性质是什么？它是否关于目标测度可逆？
• RQ3 极限SDE中噪声的空间相关性与底层高斯结构有何关系？
• RQ4 所得到的极限SDE能否被解释为目标测度的带有噪声的梯度流？

主要发现

• 使用Ornstein-Uhlenbeck提议的梅特罗波利斯-哈斯廷斯链在扩散缩放下弱收敛到一个随机PDE。
• 极限过程是关于通过相对于高斯先验的密度定义的目标测度可逆的SDE。
• 极限SDE中的噪声根据底层高斯测度的协方差结构表现出空间相关性。
• 极限SDE对应于一个带有噪声的梯度流，为离散梅特罗波利斯动力学提供了连续时间解释。