[论文解读] Algorithmic Theory of ODEs and Sampling from Well-conditioned Logconcave Densities

Yin Tat Lee, Zhao Song+1 more|arXiv (Cornell University)|Dec 15, 2018

Markov Chains and Monte Carlo Methods参考文献 29被引用 19

一句话总结

该论文提出了一种新颖的算法理论，用于通过多项式逼近求解多元常微分方程（ODE），实现了对良好条件、强对数凹密度的近乎线性时间采样。通过利用多对数深度的 ODE 求解器和改进的压缩界，该方法实现了哈密顿蒙特卡洛（HMC）的维度无关收敛，将迭代次数和梯度计算次数降低至对数维度复杂度，适用于逻辑回归及类似模型。

ABSTRACT

Sampling logconcave functions arising in statistics and machine learning has been a subject of intensive study. Recent developments include analyses for Langevin dynamics and Hamiltonian Monte Carlo (HMC). While both approaches have dimension-independent bounds for the underlying $\mathit{continuous}$ processes under sufficiently strong smoothness conditions, the resulting discrete algorithms have complexity and number of function evaluations growing with the dimension. Motivated by this problem, in this paper, we give a general algorithm for solving multivariate ordinary differential equations whose solution is close to the span of a known basis of functions (e.g., polynomials or piecewise polynomials). The resulting algorithm has polylogarithmic depth and essentially tight runtime - it is nearly linear in the size of the representation of the solution. We apply this to the sampling problem to obtain a nearly linear implementation of HMC for a broad class of smooth, strongly logconcave densities, with the number of iterations (parallel depth) and gradient evaluations being $\mathit{polylogarithmic}$ in the dimension (rather than polynomial as in previous work). This class includes the widely-used loss function for logistic regression with incoherent weight matrices and has been subject of much study recently. We also give a faster algorithm with $ \mathit{polylogarithmic~depth}$ for the more general and standard class of strongly convex functions with Lipschitz gradient. These results are based on (1) an improved contraction bound for the exact HMC process and (2) logarithmic bounds on the degree of polynomials that approximate solutions of the differential equations arising in implementing HMC.

研究动机与目标

• 为解决离散 HMC 和朗之万动力学在高维下的复杂性问题，尽管其连续过程表现良好，但其维度扩展性较差。
• 开发一种求解多元 ODE 的通用算法，其解接近已知基函数（如多项式或分段多项式）的解。
• 通过将迭代次数和梯度计算次数减少至维度的对数复杂度，实现对强对数凹密度的近乎线性时间采样。
• 在包括非相干逻辑回归损失和具有Lipschitz连续梯度的强凸函数在内的广泛函数类中实现上述目标。
• 通过改进的压缩率和 ODE 解的低次多项式逼近，提供收敛性和误差界方面的理论保证。

提出的方法

• 核心方法采用基于配点的 ODE 求解器，通过在已知基函数（如分段多项式）的张成空间中逼近解，实现多对数深度和近乎线性运行时间。
• 针对连续 HMC 过程提出一种新颖的压缩界，提升收敛速度，并在离散实现中实现更紧密的误差控制。
• 利用柯西估计和控制级数技术，界定为高精度逼近 ODE 解所需多项式的次数。
• 采用低秩逼近框架，通过在设计矩阵上进行矩阵求逆，高效计算 HMC 更新步骤，降低计算成本。
• 利用随机化压缩技术，以 ℓ∞-范数控制系统的动态，确保以高概率实现稳定性和准确性。
• 最终的采样算法使用 ODE 求解器模拟 HMC 步骤，通过精心选择的步长和精度参数控制误差，确保 W2 距离有界。

实验结果

研究问题

• RQ1 我们能否设计一种近乎线性时间的算法，实现对良好条件、强对数凹密度的 HMC 采样，且与维度无关？
• RQ2 在对数凹密度的 HMC 中，求解 ODE 所需的最小多项式逼近次数是多少？
• RQ3 如何改进连续 HMC 过程的压缩率，以实现在离散设置下的维度无关收敛？
• RQ4 在非相干逻辑回归损失函数的情况下，我们能否实现 HMC 的多对数深度和近乎线性运行时间？
• RQ5 在 HMC 中使用基于多项式的 ODE 求解器时，精度、步长和迭代次数之间的权衡是什么？

主要发现

• 所提出的 HMC 算法对强对数凹密度采样实现了多对数深度和近乎线性运行时间，迭代次数和梯度计算次数在维度 d 上被有界为 polylog(d)。
• 对于具有非相干权重矩阵的非相干逻辑回归，该算法实现了维度无关收敛，迭代次数和梯度计算次数为 O(polylog(d))。
• 通过仔细选择 ODE 求解器精度 δ，该方法提供了 O(ε·θ/2√m₂) 的 W2 误差界，确保高精度采样。
• 连续 HMC 过程的压缩界得到改进，导致步长参数下收敛率更紧，为 O(M₂³/⁴/m₂¹/⁴)。
• 求解 HMC ODE 所需的多项式逼近次数在问题参数上为对数级，从而实现高效且精确的模拟。
• 该算法在 N 次迭代下的运行时间为 O(κ¹·⁵ + (Mτ)/(m₂r) log(dN/η) + (τ)/(m₂r²) log²(dN/η))，其中 κ = M₂/m₂，显示出对问题规模近乎线性依赖。