[论文解读] Selecting the Metric in Hamiltonian Monte Carlo

Ben Bales, Arya Pourzanjani+2 more|arXiv (Cornell University)|May 28, 2019

Markov Chains and Monte Carlo Methods参考文献 21被引用 4

一句话总结

本文提出一种选择准则，可基于后验几何自动选择最优欧几里得度量用于哈密顿蒙特卡洛（HMC），并提出一种基于低秩海森矩阵的度量自适应方法，其所需预热抽样次数远少于传统的样本协方差方法。该方法在相关后验分布上提升了采样效率，尤其在预热数据有限的情况下表现更优，且通过Lanczos算法实现计算上的可行性。

ABSTRACT

We present a selection criterion for the Euclidean metric adapted during warmup in a Hamiltonian Monte Carlo sampler that makes it possible for a sampler to automatically pick the metric based on the model and the availability of warmup draws. Additionally, we present a new adaptation inspired by the selection criterion that requires significantly fewer warmup draws to be effective. The effectiveness of the selection criterion and adaptation are demonstrated on a number of applied problems. An implementation for the Stan probabilistic programming language is provided.

研究动机与目标

• 为解决在HMC中选择能适应后验几何的高效欧几里得度量的挑战，避免使用高维导数或复杂求解器。
• 减少在高相关性设置下实现有效度量自适应所需的预热抽样次数。
• 开发一种实用且可扩展的度量选择与自适应方法，可无缝集成至Stan等概率编程框架。
• 证明低秩海森矩阵近似在每秒有效样本数（ESS/s）方面可优于标准对角与全协方差度量，尤其在预热阶段较短时表现更优。

提出的方法

• 选择准则通过后验对数密度在MAP估计点处的海森矩阵特征值进行评估，该特征值源自线性化哈密顿动力学。
• 该准则基于矩阵 $ L^T \nabla^2_{qq}H(q_0)L $ 的特征值计算一个稳定性代理值，其中 $ L $ 为度量逆矩阵的Cholesky分解因子。
• 提出一种新型低秩度量自适应方法，采用秩1至秩8的海森矩阵近似，通过Lanczos算法高效计算。
• 在自适应过程中引入逆Wishart更新，以稳定基于海森矩阵的度量估计。
• 利用选择准则在预热阶段动态切换不同类型的度量（对角、稠密、低秩），选择准则值最低的度量。
• 该方法已在Stan中实现，并使用ESS/s和 $\hat{R}$ 作为性能指标，在基准模型上进行了评估。

实验结果

研究问题

• RQ1 能否推导出一种选择准则，可靠预测HMC中某类度量的有效性，而无需进行完整的后验抽样？
• RQ2 基于低秩海森矩阵的度量自适应能否在比样本协方差或对角近似更少的预热抽样下实现高采样效率？
• RQ3 在相关后验分布上，所提出的度量自适应是否在每秒有效样本数（ESS/s）方面优于标准Stan默认设置（对角与稠密度量）？
• RQ4 引入逆Wishart更新如何影响基于海森矩阵的度量自适应的稳定性与性能？
• RQ5 选择准则能否实现预热阶段的自动、动态度量切换，从而提升HMC效率？

主要发现

• 选择准则能有效识别高性能度量，准则值越低表示HMC性能越好，且在包括Radon与Prophet在内的多种模型中均表现有效。
• 动态切换自适应方法（基于选择准则在对角、稠密与低秩海森度量间切换）实现的ESS/s值与固定度量相当或更优。
• 在Radon模型上，该切换自适应方法仅用75次预热抽样即达到最低ESS/s为370，优于相同条件下的对角度量。
• 低秩海森自适应（秩1–8）在实现有效采样时，所需预热抽样远少于全样本协方差方法，尤其在高相关性设置下优势显著。
• 逆Wishart更新提升了基于海森矩阵的度量估计的稳定性，但并未在所有情况下保证性能提升，如图4所示。
• Lanczos算法实现了所需特征值与特征向量的高效计算，使该方法可扩展至高维模型。