[论文解读] Estimating Normalizing Constants for Log-Concave Distributions: Algorithms and Lower Bounds

Rong Ge, Holden Lee+1 more|arXiv (Cornell University)|Nov 8, 2019

Markov Chains and Monte Carlo Methods参考文献 39被引用 4

一句话总结

本论文提出了一种新颖的算法，利用非平衡朗之万动力学（underdamped Langevin dynamics, ULD）进行多级蒙特卡洛估计，以估算对数凹分布的归一化常数，查询复杂度达到 $\widetilde{\mathcal{O}}\left(\frac{d^{4/3}\kappa + d^{7/6}\kappa^{7/6}}{\varepsilon^2}\right)$，其中 $\kappa = L/\mu$ 为条件数。此外，该研究建立了首个非平凡的信息论下界 $\frac{d^{1-o(1)}}{\varepsilon^{2-o(1)}}$ 次查询，填补了高维统计与机器学习中这一基本问题理论理解的关键空白。

ABSTRACT

Estimating the normalizing constant of an unnormalized probability distribution has important applications in computer science, statistical physics, machine learning, and statistics. In this work, we consider the problem of estimating the normalizing constant $Z=\int_{\mathbb{R}^d} e^{-f(x)}\,\mathrm{d}x$ to within a multiplication factor of $1 \pm \varepsilon$ for a $μ$-strongly convex and $L$-smooth function $f$, given query access to $f(x)$ and $ abla f(x)$. We give both algorithms and lowerbounds for this problem. Using an annealing algorithm combined with a multilevel Monte Carlo method based on underdamped Langevin dynamics, we show that $\widetilde{\mathcal{O}}\Bigl(\frac{d^{4/3}κ+ d^{7/6}κ^{7/6}}{\varepsilon^2}\Bigr)$ queries to $ abla f$ are sufficient, where $κ= L / μ$ is the condition number. Moreover, we provide an information theoretic lowerbound, showing that at least $\frac{d^{1-o(1)}}{\varepsilon^{2-o(1)}}$ queries are necessary. This provides a first nontrivial lowerbound for the problem.

研究动机与目标

• 开发高效算法，用于估算 $\mu$-强凸且 $L$-光滑函数 $f$ 定义的对数凹分布的归一化常数 $Z = \int_{\mathbb{R}^d} e^{-f(x)} dx$。
• 通过建立该问题的首个非平凡信息论下界，弥合理论理解的空白。
• 通过利用多级蒙特卡洛技术，改进标准退火与基于朗之万的方法的查询复杂度。

提出的方法

• 结合退火与基于非平衡朗之万动力学（ULD）的多级蒙特卡洛估计，以降低方差与查询复杂度。
• 采用分层采样策略，通过多级离散化逐步估计归一化常数，误差逐级减小。
• 使用随机中点方法（ULD-RMM）以提升底层朗之万过程的收敛速度。
• 对多级 ULD 中偏差与方差权衡进行新颖分析，推导出梯度查询次数的紧致界。
• 提出一种新型退火策略，自适应地在简单分布与目标分布之间插值。
• 通过信息论论证推导下界，表明任何算法都无法在少于 $\frac{d^{1-o(1)}}{\varepsilon^{2-o(1)}}$ 次查询下成功。

实验结果

研究问题

• RQ1 对于由强凸且光滑势能定义的对数凹分布，估算其归一化常数的最优查询复杂度是多少？
• RQ2 多级蒙特卡洛技术能否显著减少基于退火的归一化常数估计所需的梯度查询次数？
• RQ3 在 $1 \pm \varepsilon$ 精度下估算归一化常数，其信息论极限的查询次数是多少？
• RQ4 在该设定下，MALA、ULD 与 ULD-RMM 等不同采样方案如何影响查询复杂度？
• RQ5 是否存在已知最优上界与信息论下界之间的可证明差距？

主要发现

• 所提出的多级 ULD 算法实现了 $\widetilde{\mathcal{O}}\left(\frac{d^{4/3}\kappa + d^{7/6}\kappa^{7/6}}{\varepsilon^2}\right)$ 的查询复杂度，优于以往方法。
• 结合多级蒙特卡洛的 ULD-RMM 算法在维度与条件数依赖上达到最优已知性能。
• 建立了信息论下界 $\frac{d^{1-o(1)}}{\varepsilon^{2-o(1)}}$ 次查询，表明上界在维度依赖上几乎紧致。
• 该分析为使用多级 ULD 估算对数凹测度下的期望值提供了改进的收敛速率，可能具有独立研究价值。
• 该论文通过提供强凸条件下归一化常数估计的首个非平凡下界，解决了长期悬而未决的开放问题。
• 结果表明，多级蒙特卡洛在该设定下实现最优查询复杂度是必不可少的，因为直接使用 ULD 的朴素退火会导致次优界。