[论文解读] Efficient constrained sampling via the mirror-Langevin algorithm

Kwangjun Ahn, Sinho Chewi|arXiv (Cornell University)|Oct 30, 2020

Markov Chains and Monte Carlo Methods参考文献 58被引用 7

一句话总结

本文提出了一种镜像-Langevin扩散的新离散化方法，当步长趋近于零时可实现渐近偏差为零，优于以往的方法。通过利用相对凸性、自洽性及最优传输理论，该方法在较弱假设下确保收敛至目标分布，显著提升了紧致域上对数凹分布的采样效率。

ABSTRACT

We propose a new discretization of the mirror-Langevin diffusion and give a crisp proof of its convergence. Our analysis uses relative convexity/smoothness and self-concordance, ideas which originated in convex optimization, together with a new result in optimal transport that generalizes the displacement convexity of the entropy. Unlike prior works, our result both (1) requires much weaker assumptions on the mirror map and the target distribution, and (2) has vanishing bias as the step size tends to zero. In particular, for the task of sampling from a log-concave distribution supported on a compact set, our theoretical results are significantly better than the existing guarantees.

研究动机与目标

• 解决在紧致集上支持的对数凹分布的约束采样挑战。
• 开发一种镜像-Langevin扩散的离散化方法，即使在步长趋于零时也能消除持续偏差。
• 在弱于以往工作的假设下建立收敛性保证，避免使用如Hessian矩阵对易性等技术条件。
• 通过相对凸性、自洽性及熵的位移凸性等工具，弥合采样与优化之间的鸿沟。
• 提供一个理论基础坚实且实现高效的采样算法，并给出实用的实现见解。

提出的方法

• 提出一种镜像-Langevin扩散的新离散化方案，分两步进行：镜像下降步与扩散步。
• 利用镜像映射 $\phi$ 变换状态空间，通过共轭映射 $\phi^\star$ 实现约束域上的采样。
• 采用一种新颖的分析方法，结合相对光滑性与凸性及最优传输理论，推广熵的位移凸性。
• 采用两阶段更新：$X_{k+1/2} = \nabla\phi^\star(Y_k)$，随后 $Y_{k+1} = Y_k - \eta \nabla V(X_k) + \sqrt{2\eta} \nabla^2\phi(X_k)^{1/2} \xi_k$。
• 借鉴Durmus等人（2019）的分析方法，建立 $\mathcal{D}_{\mathrm{KL}}(\mu_N \| \pi)$ 的收敛性。
• 通过数值实验验证方法，显示更精确实现扩散步可显著提升性能。

实验结果

研究问题

• RQ1 镜像-Langevin扩散的离散化能否在步长趋于零时实现渐近偏差为零？
• RQ2 能否在弱于以往工作的假设下建立收敛性保证，例如避免Hessian矩阵对易性条件？
• RQ3 镜像映射、相对凸性与最优传输之间的相互作用如何在约束采样中实现更强的理论界？
• RQ4 在模拟扩散步时的数值保真度对最终采样精度有何影响？
• RQ5 能否使镜像-Langevin算法在紧致集上的对数凹分布中兼具理论严谨性与实际高效性？

主要发现

• 所提算法在步长趋于零的极限下实现渐近偏差为零，解决了以往基于Euler-Maruyama离散化的关键局限。
• 收敛性保证的界为 $\mathcal{D}_{\mathrm{KL}}(\mu_N \| \pi) \leq \epsilon$，其中 $N = \widetilde{\Omega}\left(\sqrt{\frac{a_{\mathrm{max}}}{a_{\mathrm{min}}}} \frac{d^{3/2}}{\epsilon}\right)$，优于现有结果。
• 分析仅依赖凸优化中的标准假设——相对光滑性与自洽性，无需依赖限制性技术条件。
• 数值实验表明，通过多次内层Euler步更精确实现扩散步可显著提升采样质量。
• 当 $\phi = \|\cdot\|^2 / 2$ 时，该方法退化为未调整Langevin算法的特例。
• 理论框架将熵的位移凸性推广至更一般设定，支持更精细的收敛性分析。