[论文解读] Generalizing Hamiltonian Monte Carlo with Neural Networks
本文提出了一种基于深度神经网络的哈密顿蒙特卡洛（HMC）通用化方法，能够高效地从复杂、高维分布中采样。通过训练网络以最大化期望平方跳跃距离（ESJD），该方法实现了显著更快的混合速度——有效样本量提升高达106倍——同时在变分自编码器中实现了更具表现力的非高斯后验近似。
We present a general-purpose method to train Markov chain Monte Carlo kernels, parameterized by deep neural networks, that converge and mix quickly to their target distribution. Our method generalizes Hamiltonian Monte Carlo and is trained to maximize expected squared jumped distance, a proxy for mixing speed. We demonstrate large empirical gains on a collection of simple but challenging distributions, for instance achieving a 106x improvement in effective sample size in one case, and mixing when standard HMC makes no measurable progress in a second. Finally, we show quantitative and qualitative gains on a real-world task: latent-variable generative modeling. We release an open source TensorFlow implementation of the algorithm.
研究动机与目标
- 解决标准HMC在多模态、病态条件或快速变化的能量景观下的局限性。
- 克服HMC在能量层级和模式边界之间混合缓慢、探索能力差的问题。
- 开发一种可训练的、通用的MCMC核函数，其收敛性和混合速度优于标准HMC。
- 通过学习复杂的非高斯采样动力学，提升潜在变量模型中后验近似的表达能力。
- 提供一种黑盒、端到端可训练的采样器，可在无需人工调参的情况下部署于高维推理任务中。
提出的方法
- 使用深度神经网络参数化HMC转移核函数，将当前状态和动量映射到新状态。
- 基于期望平方跳跃距离（ESJD）的可微分代理损失训练网络，ESJD用于衡量混合速度。
- 使用可微分积分器，通过哈密顿动力学反向传播，实现端到端训练。
- 应用Metropolis-Hastings接受/拒绝步骤，以保持细致平衡并确保收敛至目标分布。
- 将学习到的采样器集成到变分自编码器（VAEs）中，以提升后验近似的质量。
- 使用块Gibbs采样和后验可视化评估所学习采样器的表达能力。
实验结果
研究问题
- RQ1是否可以训练神经网络以通用化HMC的方式，从而在多种目标分布上提升混合速度？
- RQ2所学习的MCMC核函数在有效样本量和收敛速度方面，相较于标准HMC能有多大程度的超越？
- RQ3与标准高斯变分推断相比，该方法是否能在潜在变量模型中实现更具表现力的后验近似？
- RQ4在真实世界复杂数据分布（如MNIST）上，所学习的采样器表现如何？
- RQ5该方法能否扩展至目标更高阶自相关性或其他超越位置跳跃的样本统计量？
主要发现
- 与标准HMC相比，该方法在一项基准分布上实现了106倍的有效样本量提升。
- 在一项具有挑战性的多模态分布上，所学习的采样器实现了有效混合，而标准HMC几乎未取得可测量的进展。
- 使用所学习采样器进行的块Gibbs补全成功实现了在不同模式之间（如数字3、5、8和9）的混合，而标准后验近似则卡在单一模式上。
- 后验可视化显示，使用所学习采样器时，潜在空间中呈现出非高斯、多模态的结构，证实了其强大的表达能力。
- 该方法在变分自编码器训练中提升了保留数据的对数似然，证明了在生成建模中具有定量优势。
- 开源的TensorFlow实现支持可复现性，并可集成到真实世界的推理流水线中。
更好的研究，从现在开始
从论文设计到论文写作，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。