[논문 리뷰] Minimax Mixing Time of the Metropolis-Adjusted Langevin Algorithm for Log-Concave Sampling

Keru Wu, Scott C. Schmidler외 1명|arXiv (Cornell University)|2021. 09. 27.

Markov Chains and Monte Carlo Methods참고 문헌 50인용 수 18

한 줄 요약

이 논문은 로그스무쓰하고 강하게 로그볼록인 분포에서 샘플링하기 위한 메트로폴리스 조정 랑주방정식(MALA)의 최소최대 혼합 시간을 확립한다. 렙프로그 적분기 수렴 분석과 수용률에 대한 새로운 농도 경계 유도를 통해 MALA가 온난 시작 조건 하에서 $\tilde{O}(\kappa\sqrt{d})$ 반복 내에 혼합됨을 증명하며, 이는 하한과 일치한다. 이로써 이 설정에서 MALA의 최적 복잡도가 해결된다.

ABSTRACT

We study the mixing time of the Metropolis-adjusted Langevin algorithm (MALA) for sampling from a log-smooth and strongly log-concave distribution. We establish its optimal minimax mixing time under a warm start. Our main contribution is two-fold. First, for a $d$-dimensional log-concave density with condition number $κ$, we show that MALA with a warm start mixes in $ ilde O(κ\sqrt{d})$ iterations up to logarithmic factors. This improves upon the previous work on the dependency of either the condition number $κ$ or the dimension $d$. Our proof relies on comparing the leapfrog integrator with the continuous Hamiltonian dynamics, where we establish a new concentration bound for the acceptance rate. Second, we prove a spectral gap based mixing time lower bound for reversible MCMC algorithms on general state spaces. We apply this lower bound result to construct a hard distribution for which MALA requires at least $ ilde Ω(κ\sqrt{d})$ steps to mix. The lower bound for MALA matches our upper bound in terms of condition number and dimension. Finally, numerical experiments are included to validate our theoretical results.

연구 동기 및 목표

• 로그스무쓰하고 강하게 로그볼록인 분포에서 샘플링하기 위한 메트로폴리스 조정 랑주방정식(MALA)의 최적 혼합 시간을 결정하는 것.
• 조건 수 $\kappa$와 차원 $d$에 따른 MALA 수렴 속도에 대한 이론적 간극을 메우기 위해, 조건 수 $\kappa$와 차원 $d$에 대해 날카로운 상한과 하한을 확립하는 것.
• 렙프로그 적분기와 연속 히저니안 역학을 비교하여 MALA의 수용률에 대한 새로운 농도 경계를 개발하는 것.
• 일반 상태공간에 정의된 가역 MCMC 알고리즘에 대해 스펙트럼 간격 기반 혼합 시간 하한 경계를 증명하고, 이를 MALA에 적용하는 것.
• 고차원 로그볼록 타겟에 대한 수치 실험을 통해 이론적 결과를 검증하는 것.

제안 방법

• MALA를 연속 랑주방정식의 오일러 이산화에 대한 메트로폴리스-해스팅스 보정을 적용하여 정상성을 확보하는 방식으로 분석한다.
• 렙프로그 적분기와 연속 히저니안 역학을 비교하여 수용률에 대한 새로운 농도 경계를 확립한다.
• 온난 시작 조건 하에서 MALA의 혼합 시간에 대한 상한 경계 $\tilde{O}(\kappa\sqrt{d})$를 유도하며, 이는 이전의 $\kappa$ 또는 $d$에 대한 의존성보다 향상됨을 보인다.
• 일반 상태공간에 정의된 가역 MCMC 알고리즘에 대해 스펙트럼 간격 기반의 일반 하한 경계를 증명하고, 이를 바탕으로 딱딱한 분포를 구성한다.
• 고차원 설정에서 기울기와 내적의 행동을 제어하기 위해 버닝스의 부등식과 모멘트 경계를 활용한다.
• 상한과 일치하는 딱딱한 분포를 신중하게 구성하여 $f_P(x)$에 삼각함수 성분을 포함시켜, $\tilde{O}(\kappa\sqrt{d})$ 속도의 날카로움을 증명한다.

실험 결과

연구 질문

• RQ1 로그스무쓰하고 강하게 로그볼록인 분포에서 샘플링하기 위한 MALA의 최적 혼합 시간은 무엇인가?
• RQ2 MALA의 혼합 시간이 조건 수 $\kappa$와 차원 $d$에 대해 $\tilde{O}(\kappa\sqrt{d})$로 개선될 수 있는가?
• RQ3 MALA가 최소 $\tilde{\Omega}(\kappa\sqrt{d})$ 단계가 필요로 하는 분포가 존재하는가? 이는 최소최대 최적성의 증명이 된다.
• RQ4 일반 상태공간에 정의된 가역 MCMC 알고리즘에 대해 일반적인 스펙트럼 간격 기반 하한 경계를 도출할 수 있는가?
• RQ5 이론적 경계는 고차원 샘플링 작업에서의 경험적 성능과 어떻게 비교되는가?

주요 결과

• 조건 수 $\kappa$를 가진 $d$차원 로그볼록 분포에서 MALA는 온난 시작 조건 하에서 $\tilde{O}(\kappa\sqrt{d})$ 반복 내에 혼합되며, 이는 이전의 경계보다 향상됨을 보였다.
• 상한이 날카로운 것은, 딱딱한 분포 구성에 의해 $\tilde{\Omega}(\kappa\sqrt{d})$의 하한이 증명됨으로써 입증된다.
• 렙프로그 적분기와 연속 히저니안 역학을 비교하여 수용률에 대한 새로운 농도 경계를 도출함으로써, 더 날카로운 혼합 시간 제어가 가능해졌다.
• 일반 상태공간에 정의된 가역 MCMC 알고리즘에 대해 스펙트럼 간격 기반 혼합 시간 하한 경계를 확립하였고, 이를 MALA에 적용하였다.
• 이론적 경계는 고차원 로그볼록 타겟에 대한 수치 실험을 통해 검증되었으며, 예측된 스케일링과 일치함을 보였다.
• 분석을 통해 로그볼록 설정에서 MALA의 최소최대 복잡도가 해결되었으며, $\tilde{O}(\kappa\sqrt{d})$가 최적 속도임을 입증하였다.