[논문 리뷰] Fast Convergence for Langevin Diffusion with Matrix Manifold Structure

Ankur Moitra, Andrej Risteski|arXiv (Cornell University)|2020. 02. 13.

Markov Chains and Monte Carlo Methods인용 수 4

한 줄 요약

이 논문은 비볼록 최적화 문제에서 대칭성에 의해 유도되는 동일 확률 해의 다양체를 가진 경우, 예를 들어 저질서 행렬 분해와 같은 문제에 대해 랭제빈 확산을 가속화하기 위한 이론적 프레임워크를 제안한다. 행렬 다양체의 구조와 정규직교 변환에 대한 불변성에 기반하여, 이러한 다양체에 집중된 분포에서의 샘플링을 위한 빠른 혼합 시간 경계를 수립함으로써, 현대 기계학습에서 흔한 대칭적 매개변수 공간에서의 확률적 경사 하강법의 동작을 이해하는 데 기초를 제공한다.

ABSTRACT

In this paper, we study the problem of sampling from distributions of the form p(x) \propto e^{-\beta f(x)} for some function f whose values and gradients we can query. This mode of access to f is natural in the scenarios in which such problems arise, for instance sampling from posteriors in parametric Bayesian models. Classical results show that a natural random walk, Langevin diffusion, mixes rapidly when f is convex. Unfortunately, even in simple examples, the applications listed above will entail working with functions f that are nonconvex -- for which sampling from p may in general require an exponential number of queries. In this paper, we study one aspect of nonconvexity relevant for modern machine learning applications: existence of invariances (symmetries) in the function f, as a result of which the distribution p will have manifolds of points with equal probability. We give a recipe for proving mixing time bounds of Langevin dynamics in order to sample from manifolds of local optima of the function f in settings where the distribution is well-concentrated around them. We specialize our arguments to classic matrix factorization-like Bayesian inference problems where we get noisy measurements A(XX^T), X \in R^{d imes k} of a low-rank matrix, i.e. f(X) = \|A(XX^T) - b\|^2_2, X \in R^{d imes k}, and \beta the inverse of the variance of the noise. Such functions f are invariant under orthogonal transformations, and include problems like matrix factorization, sensing, completion. Beyond sampling, Langevin dynamics is a popular toy model for studying stochastic gradient descent. Along these lines, we believe that our work is an important first step towards understanding how SGD behaves when there is a high degree of symmetry in the space of parameters the produce the same output.

연구 동기 및 목표

• 비볼록 사후 분포에 대칭성이 존재할 때 랭제빈 역학의 느린 혼합 문제를 다루기 위해.
• 목적 함수 f의 불변성이 목표 분포 p(x) ∝ e^{-βf(x)}에서 동일 확률 해의 다양체를 유도하는 방식을 분석하기 위해.
• f가 비볼록이지만 대칭성에 의해 유도된 국소 최적해의 저차원 다양체를 가진 설정에서 랭제빈 역학의 증명 가능한 빠른 혼합 시간 경계를 유도하기 위해.
• f(X) = ||A(XX^T) - b||² 이고 f가 정규직교 변환에 대해 불변인 행렬 완성 및 센싱과 같은 행렬 분해 유사 문제에 분석을 특화하기 위해.
• 현대 기계학습에서 흔한 대칭적 매개변수 공간에서의 확률적 경사 하강법의 행동을 이해하는 데 이론적 기초를 제공하기 위해.

제안 방법

• 이 방법은 f의 대칭성에 기인한 국소 최적해의 다양체에서 발생하는 랭제빈 역학의 혼합 시간 경계를 증명하기 위한 프레임워크를 도입한다.
• 특히 f가 정규직교 변환에 대해 불변임을 활용하여 샘플링 문제의 효과적 차원을 감소시킨다.
• 분포가 대칭 다양체 주위에 잘 집중되어 있음을 고려하여, 수렴 속도를 경계하기 위해 리만 기하학 도구를 사용한다.
• 주요 기술적 요소로는 다양체 구조에 적응된 농도 불등식과 스펙트럼 갭 분석이 포함된다.
• 이 접근법은 A(XX^T) = b 와 같은 추가 가우시안 노이즈가 있는 낮은 질서 행렬의 측정치를 포함하는 베이지안 추론 문제에 특화되어 있다.
• 약한 정규성 및 농도 조건 하에서, 비볼록성에도 불구하고 문제 차원에 대해 다항식 시간 내에 혼합 시간이 유지됨을 입증한다.

실험 결과

연구 질문

• RQ1 목적 함수 f의 대칭성으로 인해 목표 분포에 동일 확률 해의 다양체가 존재할 때, 랭제빈 역학이 어떻게 빠른 혼합을 달성할 수 있는가?
• RQ2 f와 노이즈 수준 β에 어떤 조건이 성립해야 목표 분포가 국소 최적해의 대칭 다양체 주위에 잘 집중되어 있는가?
• RQ3 예를 들어 행렬 분해에서 정규직교 불변성과 같은 연속 대칭성을 가진 비볼록 설정에서 랭제빈 역학의 혼합 시간 경계를 확립할 수 있는가?
• RQ4 해의 다양체의 기하학적 구조는 표준 비볼록 설정에 비해 샘플링 효율을 어느 정도 향상시키는가?
• RQ5 이 프레임워크는 현대 기계학습 모델에서 대칭적 구조를 가진 매개변수 공간에서의 확률적 경사 하강법의 행동을 어떻게 설명하는가?

주요 결과

• 논문은 f가 비볼록일지라도 대칭적 국소 최적해 다양체에서 랭제빈 역학의 빠른 혼합 시간 경계를 확립한다.
• 목표 분포에 대한 약한 정규성 및 농도 조건 하에서 혼합 시간은 문제 차원에 대해 다항식 시간 내에 유지된다.
• 이 프레임워크는 f가 정규직교 변환에 대해 불변인 행렬 완성, 센싱, 분해와 같은 핵심 행렬 추론 문제에 적용 가능하다.
• 분석 결과, 대칭성에 의해 유도된 다양체는 효율적 샘플링을 방해하지 않으며, 전통적인 비볼록 샘플링 장벽과는 정반대이다.
• 결과는 대칭적 매개변수 공간에서의 확률적 경사 하강법 수렴을 이해하는 데 이론적 기초를 제공한다.
• 이 작업는 기하학적 구조가 존재하는 비볼록 문제의 일부에서 샘플링과 최적화가 효율적일 수 있음을 규명한다.