[论文解读] Nonconvex sampling with the Metropolis-adjusted Langevin algorithm

Oren Mangoubi, Nisheeth K. Vishnoi|arXiv (Cornell University)|Feb 22, 2019

Markov Chains and Monte Carlo Methods参考文献 23被引用 7

一句话总结

本文通过利用三阶和四阶正则性条件分析能量守恒误差，为非凸和弱对数凹采样设置下的马尔可夫链蒙特卡洛算法（MALA）提供了改进的收敛界。作者证明，在数据满足非一致性与正则性假设下，MALA 在贝叶斯逻辑回归和零一律优化等应用中实现了对维度 d 的次线性依赖关系，且混合速度优于现有方法。

ABSTRACT

The Langevin Markov chain algorithms are widely deployed methods to sample from distributions in challenging high-dimensional and non-convex statistics and machine learning applications. Despite this, current bounds for the Langevin algorithms are slower than those of competing algorithms in many important situations, for instance when sampling from weakly log-concave distributions, or when sampling or optimizing non-convex log-densities. In this paper, we obtain improved bounds in many of these situations, showing that the Metropolis-adjusted Langevin algorithm (MALA) is faster than the best bounds for its competitor algorithms when the target distribution satisfies weak third- and fourth- order regularity properties associated with the input data. In many settings, our regularity conditions are weaker than the usual Euclidean operator norm regularity properties, allowing us to show faster bounds for a much larger class of distributions than would be possible with the usual Euclidean operator norm approach, including in statistics and machine learning applications where the data satisfy a certain incoherence condition. In particular, we show that using our regularity conditions one can obtain faster bounds for applications which include sampling problems in Bayesian logistic regression with weakly convex priors, and the nonconvex optimization problem of learning linear classifiers with zero-one loss functions. Our main technical contribution in this paper is our analysis of the Metropolis acceptance probability of MALA in terms of its "energy-conservation error," and our bound for this error in terms of third- and fourth- order regularity conditions. Our combination of this higher-order analysis of the energy conservation error with the conductance method is key to obtaining bounds which have a sub-linear dependence on the dimension $d$ in the non-strongly logconcave setting.

研究动机与目标

• 解决朗之万算法在非凸和弱对数凹分布中收敛缓慢的问题。
• 在高维、非强对数凹设置下，将 MALA 的混合时间边界超越现有竞争方法。
• 通过在目标分布上引入三阶和四阶正则性条件，建立更紧致的收敛保证。
• 展示 MALA 在具有挑战性的机器学习和统计问题中相对于 ULA 和 RWM 的实际优势。
• 为 MALA 在数据满足非一致性和光滑性假设下的更快收敛提供理论基础。

提出的方法

• 通过能量守恒误差分解为势能误差和动能误差，分析马尔可夫链的接受概率。
• 在势函数 U 的梯度和海森矩阵上引入高阶正则性条件（三阶和四阶）。
• 采用基于导通率的分析方法，将混合时间和 hitting 时间与切赫常数及状态空间的几何性质联系起来。
• 结合能量误差边界与导通率方法，实现对维度 d 的次线性依赖。
• 通过构造“好集”来控制退出概率，确保快速混合。
• 利用 Hanson-Wright 不等式控制马尔可夫链步长中高斯扰动的尾部行为。

实验结果

研究问题

• RQ1 在非凸、弱对数凹采样问题中，MALA 是否能实现比 ULA 和 RWM 等竞争算法更快的收敛？
• RQ2 与标准算子范数假设相比，势函数上的高阶正则性条件（三阶和四阶）如何改善收敛边界？
• RQ3 在应用 MALA 进行贝叶斯逻辑回归和零一律优化时，数据的非一致性起什么作用？
• RQ4 在非强对数凹设置下，是否可通过能量守恒误差分析在 MALA 中实现对维度 d 的次线性依赖？
• RQ5 在何种条件下，MALA 能实现指数收敛且对精度 ε 的依赖为对数关系？

主要发现

• 在非凸设置下，MALA 的混合时间边界为 Õ(d^{25/6} q_0^{-11/3} sin^{-4/3}(α_0) log(c/δ) log(β/δ))，对维度 d 具有次线性依赖。
• 通过利用三阶和四阶正则性条件，该方法在弱对数凹分布中比 ULA 和 RWM 实现更快收敛。
• 在具有弱凸先验的贝叶斯逻辑回归中，改进的正则性条件可提供比基于欧几里得算子范数的边界更紧致的界。
• 在零一律优化中，MALA 在非一致性和光滑性假设下实现更快收敛，从而可在全局最优解附近实现高效采样。
• 通过高阶导数界定了能量守恒误差，使基于导通率的混合时间分析更加紧密。
• 分析表明，在所推导条件下，MALA 的接受概率保持较高（≥1/3），支持快速混合和更优的收敛速率。