[논문 리뷰] Lower Bounds on Metropolized Sampling Methods for Well-Conditioned Distributions

Yin Tat Lee, Ruoqi Shen외 1명|arXiv (Cornell University)|2021. 06. 09.

Markov Chains and Monte Carlo Methods인용 수 6

한 줄 요약

이 논문은 고차원에서 잘 조절된 분포에서 샘플링하기 위한 메트로폴리스 조정 랑주뱅 알고리즘(MALA)과 해밀토니안 몬테카를로(HMC)의 이완 시간과 혼합 시간에 대해 거의 날카로운 하한을 확립한다. MALA는 잘 조절된 가우시안 분포에 대해 $\Omega(\kappa\sqrt{d}/\sqrt{\log d})$ 단계가 필요하고, 일반적인 잘 조절된 밀도에 대해서는 $\Omega(\kappa\sqrt{d})$가 필요함을 보여주며, 표준 가정 하에 널리 사용되는 이 샘플링 방법의 근본적인 한계를 드러낸다.

ABSTRACT

We give lower bounds on the performance of two of the most popular sampling methods in practice, the Metropolis-adjusted Langevin algorithm (MALA) and multi-step Hamiltonian Monte Carlo (HMC) with a leapfrog integrator, when applied to well-conditioned distributions. Our main result is a nearly-tight lower bound of $\\widetilde{\\Omega}(\\kappa d)$ on the mixing time of MALA from an exponentially warm start, matching a line of algorithmic results up to logarithmic factors and answering an open question of Chewi et. al. We also show that a polynomial dependence on dimension is necessary for the relaxation time of HMC under any number of leapfrog steps, and bound the gains achievable by changing the step count. Our HMC analysis draws upon a novel connection between leapfrog integration and Chebyshev polynomials, which may be of independent interest.

연구 동기 및 목표

• 기계학습과 통계에서 핵심적인 가족인 잘 조절된 분포에서 샘플링하기 위한 MALA와 HMC의 기본 복잡도를 이해하기 위해.
• 일반적인 질의 모델 하한이 아닌 알고리즘 특화 하한을 제공하여 알고리즘 이론의 격차를 메우기 위해.
• 고정된 스텝 크기와 온전한 시작 가정 없이 MALA와 HMC의 내재된 성능 장벽을 규명하기 위해.
• 특히 HMC에서 변수 또는 적응형 스텝 크기가 이러한 제약을 극복할 수 있는지 탐색하기 위해.
• 하한에 조건 수치 $\kappa$가 필수적인지 평가하고, 온전한 시작 감소 기법을 통한 잠재적 개선 여부를 검토하기 위해.

제안 방법

• MALA와 HMC 성능이 열등해지는 구체적인 잘 조절된 가우시안과 일반적인 잘 조절된 밀도를 포함한 명시적 하드 인스턴스를 구성한다.
• 스펙트럼 기법과 체비세프 다항식 성질을 사용하여 HMC의 전이 커널과 스펙트럼 갭을 분석한다.
• 코사인 기반의 증거 집합 구성 기법을 적용하여 분산과 딜레르트 포름을 바ounds하여 이완 시간에 대한 하한을 도출한다.
• 스펙트럼 분석을 통해 하한을 유도하기 위해 하드 이차 함수 $f_{\textup{hqc}}$를 시험 케이스로 사용한다.
• 헤시안 고유값과 스텝 크기 간의 관계를 활용하여 $\kappa$와 $d$에 대한 의존성을 유도한다.
• 온전한 시작 가정을 통해 이완 시간에서 혼합 시간으로의 감소를 사용하여, MALA의 혼합 시간 하한이 $\Omega(\kappa\sqrt{d}/\sqrt{\log d})$임을 증명한다.

실험 결과

연구 질문

• RQ1 MALA가 잘 조절된 분포에서 혼합하기 위해 필요한 최소 단계 수는 얼마이며, 이는 $\kappa$와 $d$에 어떻게 의존하는가?
• RQ2 HMC는 잘 조절된 영역에서 MALA보다 더 빠른 혼합을 달성할 수 있는가? 그 성능의 근본적 한계는 무엇인가?
• RQ3 고정된 스텝 크기는 MALA와 HMC의 성능에 어떤 제약을 끼치며, 변수 스텝 크기는 이러한 하한을 극복할 수 있는가?
• RQ4 잘 조절된 분포에서 샘플링 하한에 조건 수치 $\kappa$가 필수적인가?
• RQ5 최근 프록시멀 샘플링 기법을 통한 감소 기법을 활용해 기존의 온전한 시작 가정을 회피하거나 개선할 수 있는가?

주요 결과

• 모든 고정된 스텝 크기에 대해, 헤시안 고유값이 $[1, \kappa]$ 범위에 있는 $d$차원 가우시안이 존재하며, 이 경우 MALA의 이완 시간은 $\Omega(\kappa\sqrt{d}/\sqrt{\log d})$이다.
• 일반적인 잘 조절된 밀도에 대해 MALA의 이완 시간 하한은 $\Omega(\kappa\sqrt{d})$이다.
• HMC는 모든 $K \geq 1$에 대해 동일한 조건 하에서 이완 시간 하한이 $\Omega(\kappa\sqrt{d})$이며, 스텝 크기에 관계없이 성립한다.
• 지수적으로 온전한 시작에서 MALA의 혼합 시간은 $\Omega(\kappa\sqrt{d}/\sqrt{\log d})$이며, 로그 요소를 제외하고 이완 시간 하한과 일치한다.
• 증명에서 사용된 증거 집합의 측도는 $\exp(-d)$ 이상이므로, 고차원에서 하드 인스턴스가 희귀하지 않음을 시사한다.
• 하한은 로그 요소를 제외하고는 날카로우며, 이는 MALA와 HMC의 기존 상한이 잘 조절된 영역에서 거의 최적임을 시사한다.