[논문 리뷰] Wasserstein Control of Mirror Langevin Monte Carlo

Kelvin Shuangjian Zhang, Gabriel Peyré외 2명|arXiv (Cornell University)|2020. 02. 11.

Markov Chains and Monte Carlo Methods참고 문헌 22인용 수 12

한 줄 요약

이 논문은 비연속 또는 비로그볼록 목표 분포에 대한 수렴을 향상시키기 위해 헤시안 유형 리만다이언 다양체 위에서 미러-강하 유사 이산화를 활용한 새로운 샘플링 방법인 헤시안 리만다이언 랭지에브 몬테카를로(HRLMC) 알고리즘을 제안한다. 비점근적 상한을 최초로 확립하여, 자가-일관성과 이방성 조건 하에서 워샤르슈타인 오차가 명시적인 반경을 가진 워샤르슈타인 볼로 수렴함을 보여준다.

ABSTRACT

Discretized Langevin diffusions are efficient Monte Carlo methods for sampling from high dimensional target densities that are log-Lipschitz-smooth and (strongly) log-concave. In particular, the Euclidean Langevin Monte Carlo sampling algorithm has received much attention lately, leading to a detailed understanding of its non-asymptotic convergence properties and of the role that smoothness and log-concavity play in the convergence rate. Distributions that do not possess these regularity properties can be addressed by considering a Riemannian Langevin diffusion with a metric capturing the local geometry of the log-density. However, the Monte Carlo algorithms derived from discretizations of such Riemannian Langevin diffusions are notoriously difficult to analyze. In this paper, we consider Langevin diffusions on a Hessian-type manifold and study a discretization that is closely related to the mirror-descent scheme. We establish for the first time a non-asymptotic upper-bound on the sampling error of the resulting Hessian Riemannian Langevin Monte Carlo algorithm. This bound is measured according to a Wasserstein distance induced by a Riemannian metric ground cost capturing the Hessian structure and closely related to a self-concordance-like condition. The upper-bound implies, for instance, that the iterates contract toward a Wasserstein ball around the target density whose radius is made explicit. Our theory recovers existing Euclidean results and can cope with a wide variety of Hessian metrics related to highly non-flat geometries.

연구 동기 및 목표

• 고차원, 비연속 또는 비로그볼록 분포에서 샘플링에 있어 유클리드 랭지에브 몬테카를로의 한계를 해결하기 위해.
• 헤시안 유형 다양체를 사용한 랭지에브 몬테카를로의 이론적으로 탄탄한 리만다이언 일반화를 개발하기 위해.
• 목표 및 엔트로피 함수의 헤시안 기하학을 반영하는 리만다이언 메트릭에 의해 유도된 워샤르슈타인 거리에서의 비점근적 수렴 보장을 확립하기 위해.
• 유럽 랭지에브 몬테카를로를 특수 케이스로 복원하고, 매우 평탄하지 않은 기하학적 구조를 다룰 수 있도록 기존 결과를 통합 및 확장하기 위해.

제안 방법

• 헤시안 다양체 위의 리만다이언 SDE에 대한 미러-강하 유사 이산화에서 유도된 이산 HRLMC 알고리즘을 제안한다.
• 리만다이언 메트릭을 정의하기 위해 D²φ(x)로 헤시안을 사용하는 레전드르 유형의 볼록 잠재함수 φ를 사용하여 기하학적 인식 샘플링을 가능하게 한다.
• 리만다이언 메트릭에 의해 유도된 워샤르슈타인 거리 W₂,φ를 사용하여 샘플링 오차를 측정하며, 이는 f와 φ의 내재 기하학을 반영한다.
• 이토의 등장성과 민코프스키 적분 부등식을 적용하여 이산화 오차의 이동, 확산 및 잔여 항의 기대 제곱노름을 상한한다.
• 자기-일관성의 φ, f의 헤시안과 기울기의 유계성, 그리고 상대적 이방성을 제어하는 커mutator 상한을 포함한 가정에 기반한다.
• W₂,φ(μₖ₊₁, π) ≤ ρ W₂,φ(μₖ, π) + h p¹ᐟ² β₁ + h³ᐟ² p¹ᐟ² β₂ 형태의 수축 부등식을 유도하며, 수렴을 위해 ρ < 1이 성립한다.

실험 결과

연구 질문

• RQ1 헤시안 유형 다양체를 사용하여 비로그볼록 또는 비연속 목표 분포에 대해 리만다이언 랭지에브 몬테카를로 알고리즘을 엄밀히 분석할 수 있는가?
• RQ2 기하학적으로 일관된 워샤르슈타인 거리에서 HRLMC 알고리즘의 비점근적 수렴 속도는 무엇인가?
• RQ3 로그밀도 f의 헤시안과 엔트로피 φ의 헤시안 간 상호작용은 수렴 행동에 어떻게 영향을 미치는가?
• RQ4 HRLMC 알고리즘이 목표 분포의 이웃 영역으로 어떤 의미에서 수축하는가?
• RQ5 이론이 고전적 유클리드 LMC 결과를 특수 케이스로 복원할 수 있는가?

주요 결과

• HRLMC 알고리즘은 자가-일관성 레전드르 잠재함수 φ의 헤시안에서 유도된 리만다이언 메트릭에 의해 유도된 워샤르슈타인 거리 W₂,φ에서 비점근적 수렴을 달성한다.
• 샘플링 오차는 h p¹ᐟ² β₁ 및 h³ᐟ² p¹ᐟ² β₂로 명시적으로 상한된 반경을 가진 워샤르슈타인 볼로 수축하며, 여기서 β₁ 및 β₂는 f와 φ의 부드러움과 이방성에 따라 달라진다.
• 적절한 스텝 사이즈 및 곡률 조건 하에서 수축 계수 ρ는 1보다 작게 유지되어 수렴을 보장한다.
• φ(x) = ||x||²/2일 때 고전적 유클리드 LMC 결과를 특수 케이스로 복원하여 기존 결과와의 일관성을 확인한다.
• 분석 결과, φ의 자가-일관성과 D²φ 및 D²f 간의 유계 커mutator는 이산화 오차를 제어하고 안정성을 확보하는 데 핵심적임을 드러낸다.
• 상한은 차원 p, 스텝 사이즈 h, 기하학적 매개변수 R, M, m, κ에 명시적으로 의존하며, 기하학과 부드러움이 수렴에 공동으로 미치는 영향을 보여준다.