[论文解读] Adiabatic Monte Carlo

Michael Betancourt|arXiv (Cornell University)|May 14, 2014

Markov Chains and Monte Carlo Methods参考文献 4被引用 10

一句话总结

本文提出了一种名为绝热蒙特卡洛（Adiabatic Monte Carlo）的新颖马尔可夫链蒙特卡洛方法，该方法利用接触哈密顿流动态地将一个简单的基分布变形为复杂、多模态的目标分布，同时保持细致平衡与平衡态。通过利用热力学过程的几何结构，该方法在无需固定温度调度的情况下，实现了对高维、非凸后验分布的高效探索，从而实现了鲁棒的采样与精确的配分函数估计。

ABSTRACT

A common strategy for inference in complex models is the relaxation of a simple model into the more complex target model, for example the prior into the posterior in Bayesian inference. Existing approaches that attempt to generate such transformations, however, are sensitive to the pathologies of complex distributions and can be difficult to implement in practice. Leveraging the geometry of thermodynamic processes I introduce a principled and robust approach to deforming measures that presents a powerful new tool for inference.

研究动机与目标

• 为解决现有基于变形的MCMC方法（如模拟退火和模拟退火）的局限性，这些方法依赖于刚性的温度分区，且在复杂模型中常无法维持平衡。
• 提出一种基于热力学平衡框架的、具有几何基础的、保测度的概率分布变形方法。
• 通过根据轨迹偏离当前平衡分布的程度，动态调整逆温度，实现对高维、多模态后验分布的高效采样。
• 在采样过程中提供配分函数的精确、副产品估计，这对贝叶斯模型比较至关重要。

提出的方法

• 该方法通过温度参数β对密度比进行指数化，从基分布π_B连续变形为复杂目标分布π，形成π_β ∝ exp(−βΔV)π_B。
• 采用接触哈密顿流来定义不同β值下分布之间的保测度变换，确保在整个过渡过程中保持细致平衡与平衡态。
• 动力学由一个接触哈密顿系统控制，同时演化状态q与逆温度β，其中β根据轨迹偏离当前平衡分布的程度自适应调整。
• 该算法使用哈密顿蒙特卡洛在每个β处估计期望势能ΔV，从而实现对温度演化的精确适应。
• 积分器被设计为保持接触结构，确保流始终保持体积不变，并在β变化过程中维持正确的不变测度。
• 该方法通过在轨迹偏离概率质量主体时减缓β的演化，动态确定最优温度分区，从而在进一步推进前实现再平衡。

实验结果

研究问题

• RQ1 基于几何原理的保测度变形方法是否能在采样多模态、高维后验分布方面优于传统MCMC方法？
• RQ2 如何构建一种连续、动态的温度调度，以在无需预设分区的情况下维持采样过程中的细致平衡与平衡态？
• RQ3 接触哈密顿流在多模态分布中实现对不连通等高集的高效探索方面，其能力达到何种程度？
• RQ4 用于采样的相同动力学是否也能提供每个β下配分函数的精确估计？

主要发现

• 绝热蒙特卡洛在复杂、多模态分布中成功保持了细致平衡与平衡态，即使在模拟退火失效的情况下亦然。
• 该方法通过在轨迹偏离概率质量主体时减缓β的演化，动态确定最优温度分区，实现再平衡，从而防止亚稳态。
• 与模拟退火相比，后者在粗或细的分区下均表现出低效的随机游走行为，而绝热蒙特卡洛无需手动调优温度网格即可实现高效探索。
• 该算法在每个β处提供了配分函数的精确估计，估计误差小到在图像中无法察觉，尽管其变化范围达8个数量级。
• 接触哈密顿流确保了变换的保测度性，且所有β值下的不变测度保持一致。
• 在一维测试案例中，绝热蒙特卡洛成功维持了平衡，并实现了从β = 0到β = 1的完整探索，而模拟退火在粗分区下失败，模拟退火仅在最优调优分区下才有效。