[论文解读] Dimensionally Tight Bounds for Second-Order Hamiltonian Monte Carlo

Oren Mangoubi, Nisheeth K. Vishnoi|arXiv (Cornell University)|Feb 24, 2018

Markov Chains and Monte Carlo Methods被引用 28

一句话总结

该论文在强对数凹分布且 Hessian 矩阵满足弱三阶正则性条件时，为二阶 HMC 的梯度评估建立了维度紧致的 O*(d^{1/4}) 边界。作者提出了一种新颖的正则性假设，使得收敛速度优于以往基于 Lipschitz Hessian 的边界，尤其在数据不一致的贝叶斯逻辑回归中表现更优，并通过模拟验证了该改进，显示在准确性和梯度效率方面均有更优表现。

ABSTRACT

Hamiltonian Monte Carlo (HMC) is a widely deployed method to sample from high-dimensional distributions in Statistics and Machine learning. HMC is known to run very efficiently in practice and its popular second-order "leapfrog" implementation has long been conjectured to run in $d^{1/4}$ gradient evaluations. Here we show that this conjecture is true when sampling from strongly log-concave target distributions that satisfy a weak third-order regularity property associated with the input data. Our regularity condition is weaker than the Lipschitz Hessian property and allows us to show faster convergence bounds for a much larger class of distributions than would be possible with the usual Lipschitz Hessian constant alone. Important distributions that satisfy our regularity condition include posterior distributions used in Bayesian logistic regression for which the data satisfies an "incoherence" property. Our result compares favorably with the best available bounds for the class of strongly log-concave distributions, which grow like $d^{{1}/{2}}$ gradient evaluations with the dimension. Moreover, our simulations on synthetic data suggest that, when our regularity condition is satisfied, leapfrog HMC performs better than its competitors -- both in terms of accuracy and in terms of the number of gradient evaluations it requires.

研究动机与目标

• 解决长期存在的猜想：即在高维抽样中，蛙跳 HMC 算法需要 O*(d^{1/4}) 梯度评估。
• 提出弱于 Lipschitz Hessian 的 Hessian 正则性条件，使更广泛分布类别的边界更紧致。
• 证明该正则性条件在重要统计模型中自然成立，例如在数据不一致时的贝叶斯逻辑回归后验分布。
• 通过模拟验证理论改进，显示在准确性和梯度效率方面表现更优。

提出的方法

• 引入一种新正则性条件（假设1），仅在 HMC 轨迹通常经过的方向上限制 Hessian 的变化，而非所有方向。
• 使用概率耦合技术，对从冷启动或热启动开始的 HMC 链的混合时间进行上界估计。
• 应用 ODE 比较定理与李雅普诺夫函数，分析蛙跳积分器与理想哈密顿流之间的偏差。
• 利用一种新颖的 Hessian 差值的无穷范数 Lipschitz 条件，推导蛙跳积分器的误差边界，该条件在高维中比标准欧几里得范数更紧致。
• 在新正则性条件下，为蛙跳 HMC 算法的梯度评估建立维度紧致的 O*(d^{1/4}) 边界。
• 通过在合成数据和逻辑回归上的模拟，比较欧几里得范数与无穷范数 Lipschitz 条件下 HMC 的性能。

实验结果

研究问题

• RQ1 在弱 Hessian 正则性条件下，蛙跳 HMC 算法对强对数凹目标是否需要 O*(d^{1/4}) 梯度评估？
• RQ2 该新正则性条件是否可被重要统计模型（如数据不一致时的贝叶斯逻辑回归后验分布）满足？
• RQ3 Hessian 差值的无穷范数 Lipschitz 条件与标准欧几里得范数相比，在控制积分器误差与梯度评估成本方面表现如何？
• RQ4 理论上的收敛速度改进是否在合成数据与真实数据示例的实证性能中得到体现？

主要发现

• 论文证明，当抽样目标为满足新弱三阶正则性条件的强对数凹分布时，蛙跳 HMC 算法最多需要 O*(d^{1/4}) 梯度评估。
• 新正则性条件严格弱于 Lipschitz Hessian 性质，且在数据满足非一致性条件时，贝叶斯逻辑回归的后验分布也满足该条件。
• 模拟结果表明，在高维下，新正则性条件下的 HMC 在准确性和梯度评估次数方面均优于对比方法。
• Hessian 差值的无穷范数 Lipschitz 条件相比标准欧几里得范数，能显著降低误差边界，表现为中位数 √L∞r^{1/4}∥pt∥∞,u 随维度增长更缓慢，优于 √L2∥pt∥2。
• 理论边界具有维度紧致性，优于以往在 Lipschitz Hessian 假设下已知的 O*(d^{1/2}) 边界。
• 结果表明，马尔可夫链蒙特卡洛调整的 HMC（MHMC）可能仅需对数多项式数量的梯度评估（关于 ε^{-1}），但因接受/拒绝步骤下的耦合挑战，该问题仍为开放问题。