[论文解读] Fast Convergence for Langevin Diffusion with Matrix Manifold Structure

Ankur Moitra, Andrej Risteski|arXiv (Cornell University)|Feb 13, 2020

Markov Chains and Monte Carlo Methods被引用 4

一句话总结

本文提出了一套理论框架，用于加速在具有对称性诱导的等概率解流形的非凸优化问题中的朗之万扩散过程，例如低秩矩阵分解。通过利用矩阵流形结构及其在正交变换下的不变性，该框架为集中在这些流形上的分布采样建立了快速混合时间界限，为理解对称参数空间中随机梯度下降的行为提供了理论基础。

ABSTRACT

In this paper, we study the problem of sampling from distributions of the form p(x) \propto e^{-\beta f(x)} for some function f whose values and gradients we can query. This mode of access to f is natural in the scenarios in which such problems arise, for instance sampling from posteriors in parametric Bayesian models. Classical results show that a natural random walk, Langevin diffusion, mixes rapidly when f is convex. Unfortunately, even in simple examples, the applications listed above will entail working with functions f that are nonconvex -- for which sampling from p may in general require an exponential number of queries. In this paper, we study one aspect of nonconvexity relevant for modern machine learning applications: existence of invariances (symmetries) in the function f, as a result of which the distribution p will have manifolds of points with equal probability. We give a recipe for proving mixing time bounds of Langevin dynamics in order to sample from manifolds of local optima of the function f in settings where the distribution is well-concentrated around them. We specialize our arguments to classic matrix factorization-like Bayesian inference problems where we get noisy measurements A(XX^T), X \in R^{d imes k} of a low-rank matrix, i.e. f(X) = \|A(XX^T) - b\|^2_2, X \in R^{d imes k}, and \beta the inverse of the variance of the noise. Such functions f are invariant under orthogonal transformations, and include problems like matrix factorization, sensing, completion. Beyond sampling, Langevin dynamics is a popular toy model for studying stochastic gradient descent. Along these lines, we believe that our work is an important first step towards understanding how SGD behaves when there is a high degree of symmetry in the space of parameters the produce the same output.

研究动机与目标

• 解决在具有对称性的非凸后验分布中采样时朗之万动力学混合缓慢的问题。
• 分析目标函数 f 中的不变性如何在目标分布 p(x) ∝ e^{-βf(x)} 中诱导出等概率解的流形。
• 推导在 f 为非凸但具有对称性诱导的低维局部极小值流形时，朗之万动力学的可证明快速混合时间界限。
• 将分析专门应用于类似矩阵分解的问题，如矩阵补全和感知，其中 f(X) = ||A(XX^T) - b||² 且 f 在正交变换下不变。
• 为理解现代机器学习中常见对称参数空间内随机梯度下降的行为提供理论基础。

提出的方法

• 该方法提出了一套证明朗之万动力学在由 f 的对称性产生的局部极小值流形上混合时间界限的框架。
• 它利用参数空间的几何结构，特别是 f 在正交变换下的不变性，以降低采样问题的有效维度。
• 分析聚焦于在对称流形附近高度集中的分布，从而能够使用黎曼几何工具来界定收敛速率。
• 关键技术要素包括适应流形结构的集中不等式和谱隙分析。
• 该方法专门应用于涉及低秩矩阵的噪声测量的贝叶斯推断问题，例如 A(XX^T) = b 加上高斯噪声。
• 结果表明，在适度的正则性和集中性条件下，即使存在非凸性，混合时间仍保持在问题维度的多项式时间内。

实验结果

研究问题

• RQ1 当目标分布由于目标函数 f 的对称性而具有等概率解的流形时，朗之万动力学如何实现快速混合？
• RQ2 f 和噪声水平 β 需满足何种条件，才能确保分布仍良好地集中在局部极小值的对称流形附近？
• RQ3 在具有连续对称性（如矩阵分解中的正交不变性）的非凸设置中，能否为朗之万动力学建立混合时间界限？
• RQ4 与标准非凸设置相比，解空间的流形结构在多大程度上提升了采样效率？
• RQ5 该框架如何解释对称机器学习模型中随机梯度下降的行为？

主要发现

• 本文在对称局部极小值流形上建立了朗之万动力学的快速混合时间界限，即使 f 为非凸函数亦成立。
• 在目标分布的正则性和集中性假设较弱时，混合时间仍保持在问题维度的多项式级别。
• 该框架适用于关键的矩阵推断问题，如矩阵补全、感知和分解，其中 f 在正交变换下不变。
• 分析表明，对称性诱导的流形并不会阻碍高效采样，这与经典非凸采样障碍相反。
• 结果为理解对称参数空间中随机梯度下降的收敛性提供了理论基础。
• 该工作识别出一类由于底层几何结构而使采样和优化均高效的非凸问题。