[论文解读] Theoretical guarantees for approximate sampling from smooth and log-concave densities

Arnak S. Dalalyan|arXiv (Cornell University)|Dec 23, 2014

Markov Chains and Monte Carlo Methods参考文献 20被引用 10

一句话总结

本文为高维空间中从光滑、对数凹密度采样时的朗之万蒙特卡罗（LMC）算法提供了非渐近理论保证。在强凸性和Lipschitz梯度条件下，建立了近似分布与目标分布之间Kullback-Leibler散度的显式边界，表明误差随步长和迭代次数减小。

ABSTRACT

Sampling from various kinds of distributions is an issue of paramount importance in statistics since it is often the key ingredient for constructing estimators, test procedures or confidence intervals. In many situations, the exact sampling from a given distribution is impossible or computationally expensive and, therefore, one needs to resort to approximate sampling strategies. However, there is no well-developed theory providing meaningful nonasymptotic guarantees for the approximate sampling procedures, especially in the high-dimensional problems. This paper makes some progress in this direction by considering the problem of sampling from a distribution having a smooth and log-concave density defined on \(\RR^p\), for some integer \(p>0\). We establish nonasymptotic bounds for the error of approximating the target distribution by the one obtained by the Langevin Monte Carlo method and its variants. We illustrate the effectiveness of the established guarantees with various experiments. Underlying our analysis are insights from the theory of continuous-time diffusion processes, which may be of interest beyond the framework of log-concave densities considered in the present work.

研究动机与目标

• 解决高维设置下近似采样算法缺乏严格、非渐近收敛保证的问题。
• 为从光滑且对数凹的目标分布采样时，朗之万蒙特卡罗（LMC）方法的准确性提供理论边界。
• 弥合优化算法收敛性良好理解与采样算法收敛性理解不足之间的差距。
• 分析过阻尼朗之万扩散的Ozaki离散化方法，作为量化LMC近似误差的桥梁。
• 推导LMC输出与目标分布之间Kullback-Leibler散度的显式、可计算边界。

提出的方法

• 利用连续时间扩散过程与随机微分方程理论，将目标分布建模为SDE的平稳测度。
• 将LMC算法视为过阻尼朗之万扩散SDE的离散时间Euler-Maruyama近似。
• 采用Ozaki离散化方案定义一个分段Ornstein-Uhlenbeck过程，以近似连续扩散过程。
• 通过Girsanov定理与矩界，推导LMC分布与扩散过程分布之间KL散度的边界。
• 应用中值定理与Hessian的Lipschitz连续性，控制漂移项中的离散化误差。
• 利用矩不等式与矩阵范数界，控制过程增量的四阶矩，最终得到以步长、维度与问题参数表示的误差边界。

实验结果

研究问题

• RQ1 当从光滑且对数凹密度采样时，朗之万蒙特卡罗算法的近似误差可建立何种非渐近边界？
• RQ2 LMC输出与目标分布之间的Kullback-Leibler散度如何随步长与迭代次数变化？
• RQ3 在强凸性与Lipschitz梯度假设下，LMC方法的离散化误差能否被严格界定？
• RQ4 收敛速率对维度 $ p $、条件数 $ M/m $ 与Hessian Lipschitz常数 $ L_f $ 的依赖关系如何？
• RQ5 LMC的理论保证与梯度下降在收敛速率与维度依赖性方面相比如何？

主要发现

• 本文建立了LMC输出与目标分布之间KL散度的非渐近边界，表明其随步长 $ h $ 以 $ O(h^3) $ 速率衰减。
• 该边界依赖于Hessian Lipschitz常数 $ L_f $、维度 $ p $、时间跨度 $ T $ 与条件数 $ M/m $，显式依赖关系为 $ (L_f T M p)^2 $。
• 收敛速率在某种意义上与维度 $ p $ 无关：边界关于 $ p $ 多项式增长，而非指数增长。
• KL散度边界通过LMC与一个分段Ornstein-Uhlenbeck过程的新型耦合推导得出，离散化误差通过矩界控制。
• 分析表明，LMC算法对期望精度 $ ho $ 的依赖为对数关系，与梯度下降类似，尽管对问题参数的依赖更复杂。
• 通过实验对理论保证进行了经验验证，证明了所推导边界的实际相关性。