[논문 리뷰] Optimal dimension dependence of the Metropolis-Adjusted Langevin Algorithm

Sinho Chewi, Chen Lü외 4명|arXiv (Cornell University)|2020. 12. 23.

Markov Chains and Monte Carlo Methods참고 문헌 33인용 수 8

한 줄 요약

이 논문은 로그-부드럽고 강하게 로그-볼록인 분포에서 샘플링하기 위한 메트로폴리스 조정 랑주르 알고리즘(MALA)의 최적 차원 의존도를 확립한다. 메트로폴리스 조정에 대한 새로운 투영 기반 분석을 도입함으로써, 따뜻한 시작 조건 하에서 혼합 시간이 $\widetilde{\Theta}(d^{1/2})$임을 증명하여, 이전의 점점 다가가는 체계적 척도 한계($O(d^{1/3})$)와 비점점적 경계($O(d)$) 사이의 격차를 해결한다.

ABSTRACT

Conventional wisdom in the sampling literature, backed by a popular diffusion scaling limit, suggests that the mixing time of the Metropolis-Adjusted Langevin Algorithm (MALA) scales as $O(d^{1/3})$, where $d$ is the dimension. However, the diffusion scaling limit requires stringent assumptions on the target distribution and is asymptotic in nature. In contrast, the best known non-asymptotic mixing time bound for MALA on the class of log-smooth and strongly log-concave distributions is $O(d)$. In this work, we establish that the mixing time of MALA on this class of target distributions is $\widetildeΘ(d^{1/2})$ under a warm start. Our upper bound proof introduces a new technique based on a projection characterization of the Metropolis adjustment which reduces the study of MALA to the well-studied discretization analysis of the Langevin SDE and bypasses direct computation of the acceptance probability.

연구 동기 및 목표

• MALA의 혼합 시간에 대한 점점 다가가는 체계적 척도 한계($O(d^{1/3})$)와 비점점적 경계($O(d)$) 사이의 모순을 해결하기 위해.
• 강하게 볼록하고 부드러운 잠재함수의 전반적인 클래스에 걸쳐 MALA의 최적 차원 의존도를 확립하기 위해.
• 제품 분포 가정과 고차 미분 조건에 의존하지 않는 비점점적 분석을 개발하기 위해.
• 고차원 샘플링에서 MALA의 수렴 속도에 대한 알려진 상한과 하한 사이의 격차를 메우기 위해.

제안 방법

• 메트로폴리스 조정의 투영 특성화를 도입하여 수용 확률을 직접 계산과 분리한다.
• 기존의 수렴 도구를 활용하여 MALA 분석을 잘 이해된 랑주르 SDE 이산화로 환원한다.
• MALA 경로의 삼단계 분해를 사용하여 제안 및 수용 메커니즘의 이탈을 제어한다.
• 집중 부등식을 활용하여 현재 상태와 제안 상태 간의 노름 차이에 대한 고확률 경계를 수립한다.
• 수용 확률에 대한 정교한 경계를 적용하여 $A(\boldsymbol{x},\boldsymbol{y}) \leq \sqrt{a(\boldsymbol{x},\boldsymbol{y})}$를 사용하여 도전도를 제어한다.
• 도전도의 하한을 확보하기 위해 $\pi(E) \geq 1/2$인 집합 $E$를 구성하고, $h \gg d^{-1/3}$일 때 전이 확률이 지수적으로 감소함을 보인다.

실험 결과

연구 질문

• RQ1 강하게 볼록하고 부드러운 잠재함수의 클래스에서 MALA의 혼합 시간에 대한 최적 차원 의존도는 무엇인가?
• RQ2 로버츠와 로젠탈(1998)이 도출한 점점 다가가는 확산 근사에서의 $O(d^{1/3})$ 척도가 모든 이러한 분포에 대해 균일하게 성립하는가, 아니면 일부 분포에서는 실패하는가?
• RQ3 비점점적 분석을 통해 기존의 $O(d)$ 결과보다 더 날카로운 경계를 도출할 수 있는가?
• RQ4 MALA에 대한 $O(d^{1/3})$ 경계는 타당한가, 아니면 더 약한 가정 하에서 향상시킬 수 있는가?
• RQ5 가우시안 목표 분포를 가진 MALA의 스펙트럴 갭은 무엇이며, 차원과 스텝 크기와 어떻게 스케일링되는가?

주요 결과

• 강하게 볼록하고 부드러운 잠재함수의 클래스에서, 따뜻한 시작 조건 하에서 MALA의 혼합 시간은 $\widetilde{\Theta}(d^{1/2})$이다.
• 메트로폴리스 수용 확률을 직접 계산하지 않는 새로운 투영 기반 분석을 통해 상한이 확립되었다.
• 하한 분석을 통해 $h \gg d^{-1/3}$일 경우, 가우시안 목표 분포를 가진 MALA의 도전도가 지수적으로 작아지며, 이는 최소 $\Omega(d^{1/3})$의 혼합 시간을 의미함을 보였다.
• 가우시안 목표 분포를 가진 MALA의 스펙트럴 갭은 $O(h)$로 상한이 주어지며, 이는 최적 혼합을 위해 $h \ll d^{-1/3}$가 필수임을 확인한다.
• 로버츠와 로젠탈(1998)이 도출한 $O(d^{1/3})$ 척도는 부드럽고 강하게 볼록한 잠재함수의 전반적인 클래스에 대해 최적이 아니다.
• 특정 무한히 미분 가능한 제품 분포에 대해 반례를 구성함으로써, MALA가 $h \ll d^{-1/3}$여야 함을 보여주어 일반적인 $d^{1/3}$ 규칙이 성립하지 않음을 입증하였다.