[论文解读] A general perspective on the Metropolis-Hastings kernel

Christophe Andrieu, Anthony Lee+1 more|arXiv (Cornell University)|Dec 29, 2020

Markov Chains and Monte Carlo Methods参考文献 60被引用 11

一句话总结

本文提出了一种通用的代数框架，通过目标测度 μ、对合 φ 和接受函数 a 构造 Metropolis-Hastings 核，实现对 π 的细致平衡和不变性的系统性验证。该方法将正确性证明简化为机械化的代数检查，从而简化了复杂 MCMC 算法的设计与沟通，超越了标准可逆采样器的范畴。

ABSTRACT

Since its inception the Metropolis-Hastings kernel has been applied in sophisticated ways to address ever more challenging and diverse sampling problems. Its success stems from the flexibility brought by the fact that its verification and sampling implementation rests on a local ``detailed balance'' condition, as opposed to a global condition in the form of a typically intractable integral equation. While checking the local condition is routine in the simplest scenarios, this proves much more difficult for complicated applications involving auxiliary structures and variables. Our aim is to develop a framework making establishing correctness of complex Markov chain Monte Carlo kernels a purely mechanical or algebraic exercise, while making communication of ideas simpler and unambiguous by allowing a stronger focus on essential features -- a choice of embedding distribution, an involution and occasionally an acceptance function -- rather than the induced, boilerplate structure of the kernels that often tends to obscure what is important. This framework can also be used to validate kernels that do not satisfy detailed balance, i.e. which are not reversible, but a modified version thereof.

研究动机与目标

• 为复杂 MCMC 场景中构造和验证 Metropolis-Hastings 核提供一个通用的代数框架。
• 通过抽象化模板化的核结构，简化高级 MCMC 算法的设计与沟通。
• 通过机械化的测度论方法，实现对非可逆和非标准核的正确性验证。
• 将多种 MCMC 方案——如多候选、延迟拒绝和 NUTS——统一在共同的理论基础之下。
• 通过聚焦于核心组件：嵌入测度 μ、对合 φ 和接受函数 a，使辅助变量和复杂提议的使用变得可行。

提出的方法

• 通过三元组 (μ, φ, a) 定义 Metropolis-Hastings 核 Π，其中 μ 是扩展空间上的不变测度，φ 是对合，a 是接受函数。
• 利用对合 φ 生成候选状态，在三元组框架下确保满足细致平衡条件。
• 从 μ 的密度与 φ 下变换测度的密度比出发，代数推导接受率，避免了临时性的推导。
• 通过修改细致平衡条件，将框架应用于验证非可逆核，扩展至标准可逆性之外。
• 利用停止时间与双重无限马尔可夫链对复杂提议进行建模，如 NUTS 和事件链算法。
• 引入带辅助变量的切片采样策略，以处理软势能，实现对约束分布的高效采样。

实验结果

研究问题

• RQ1 如何构建一个通用框架，以系统性地验证复杂 Metropolis-Hastings 核的正确性？
• RQ2 对合与接受函数的使用在哪些方面可以简化高级 MCMC 算法的设计与沟通？
• RQ3 该框架能否扩展至不满足标准细致平衡条件的非可逆核？
• RQ4 如何利用停止时间与测度论论证，将该框架应用于类似 NUTS 的采样器和事件链算法？
• RQ5 辅助变量与切片采样在将框架扩展至软约束和复杂目标分布中起到什么作用？

主要发现

• 所提出的框架将细致平衡的验证简化为对三元组 (μ, φ, a) 的机械代数检查，消除了对临时推导的依赖。
• 该框架通过推广细致平衡条件，成功验证了非可逆核，使得非可逆提议得以使用。
• 该方法通过将提议建模为带有停止时间的双重无限马尔可夫链，实现了类似 NUTS 核的构造。
• 该框架使带辅助变量的切片采样成为可能，以处理软势能，其中目标密度 γ(x) 表示为约束的乘积。
• 对于具有硬约束的系统，当当前状态和候选状态均位于可行区域时，接受率 r1 被证明为 1，从而简化了决策规则。
• 该框架表明，两阶段核第二阶段的接受率取决于碰撞计数 |I|(x,v,i) 与 |I|(x,−v,j) 的比值，而这两者通常不相等，凸显了精确计算比值的必要性。