[논문 리뷰] High-dimensional MCMC with a standard splitting scheme for the underdamped Langevin diffusion

Pierre Monmarché|arXiv (Cornell University)|2020. 07. 10.

Markov Chains and Monte Carlo Methods참고 문헌 37인용 수 25

한 줄 요약

이 논문은 비차원적 워셔스타인 수축성과 비점근 수렴 속도를 증명함으로써, 비차원적 라놀지안 확산을 위한 표준 2차 스킴(OBABO) 기반의 고차원 마르코프 체인 몽테카를로(MCMC) 샘플러를 제안한다. 이는 조정되지 않은 체인과 메트로폴리스 조정 체인 모두에 대해 성립하며, 다양한 부드러움 조건 하에서 효율성 한계가 $\sqrt{d}/\varepsilon$, $\sqrt{d/\varepsilon}$, $d^{1/4}/\sqrt{\varepsilon}$ 순서로 도출되며, HMC 및 운동학 라놀지안 방법의 기존 결과와 일치한다.

ABSTRACT

The efficiency of a Markov sampler based on the underdamped Langevin diffusion is studied for high dimensional targets with convex and smooth potentials. We consider a classical second-order integrator which requires only one gradient computation per iteration. Contrary to previous works on similar samplers, a dimension-free contraction of Wasserstein distances and convergence rate for the total variance distance are proven for the discrete time chain itself. Non-asymptotic Wasserstein and total variation efficiency bounds and concentration inequalities are obtained for both the Metropolis adjusted and unadjusted chains. \ v{In particular, for the unadjusted chain,} in terms of the dimension $d$ and the desired accuracy $\\varepsilon$, the Wasserstein efficiency bounds are of order $\\sqrt d / \\varepsilon$ in the general case, $\\sqrt{d/\\varepsilon}$ if the Hessian of the potential is Lipschitz, and $d^{1/4}/\\sqrt\\varepsilon$ in the case of a separable target, in accordance with known results for other kinetic Langevin or HMC schemes.

연구 동기 및 목표

• 비차원적 라놀지안 확산을 위한 표준 2차 분할 스킴 기반의 고차원 MCMC 샘플러를 개발하는 것.
• 조정되지 않은 체인과 메트로폴리스 조정 체인 모두에 대해 고차원에서의 비점근 수렴 속도와 효율성 한계를 확립하는 것.
• 연속 시간 분석에 의존하지 않고, 이산 시간 마르코프 체인 자체의 워셔스타인 거리에 대한 비차원 수축성과 총 변동 수렴성을 증명하는 것.
• 샘플링 오차에 대해 차원 $d$와 정확도 $\varepsilon$의 함수로 표현된 농도 부등식과 명시적 한계를 제공하는 것.
• 직접 이산 시간에서 분석된 광범위하게 사용되는 MD 스타일 적분기법을 통해 고차원 MCMC의 이론적 간극을 메우는 것.

제안 방법

• 비차원적 라놀지안 확산을 위한 표준 2차 시간 적분기법인 OBABO 분할 스킴을 사용하며, 각 단계에서 기울기 계산을 한 번만 요구한다.
• 연속 시간 수렴 속도에 의존하지 않고, 이산 시간 마르코프 체인 자체를 직접 분석하여 워셔스타인 수축성과 총 변동 수렴성을 증명한다.
• 모멘트와 수축 행동을 제어하기 위해 수정된 에너지 함수 $\varphi_\star$를 사용한 리아푸노프 함수 접근법을 적용한다.
• 고정측도 $\pi$와 체인의 고정측도 $\pi_\delta$ 사이의 편향을 제어하기 위해 $\mathcal{W}_1$ 거리의 이중 표현을 활용한다.
• 레마 28과 제안 34를 통해 모멘트 추정과 수용 확률 추정을 이용해 경험 평균의 편향과 분산을 제어한다.
• 직교 변환 후 좌표별 독립성을 활용한 분리 가능 타겟을 고려하여, 차원별 분석이 가능하게 한다.

실험 결과

연구 질문

• RQ1 비차원적 라놀지안 확산을 위한 표준 2차 분할 스킴(OBABO)이 고차원 샘플링에서 비차원 수렴성을 달성할 수 있는가?
• RQ2 조정되지 않은 체인과 메트로폴리스 조정 체인에 대해 차원 $d$와 정확도 $\varepsilon$의 함수로 표현된 비점근 효율성 한계는 무엇인가?
• RQ3 연속 시간 분석에 의존하지 않고, 이산 시간 마르코프 체인 자체가 워셔스타인 거리에서 수축하는 것으로 보일 수 있는가?
• RQ4 OBABO 스킴의 계산 비용은 기울기 평가 횟수와 수렴 속도 측면에서 다른 운동학 MCMC 방법과 비교해 어떻게 되는가?
• RQ5 조정되지 않은 체인의 평형 상태에서의 편향은 무엇이며, 이는 $d$와 $\varepsilon$에 따라 어떻게 척도화되는가?

주요 결과

• m-볼록성과 L-리프시츠 기울기 조건 하에서, 이산 시간 OBABO 체인은 워셔스타인 거리에서 비차원 수축성을 보인다.
• 일반적인 경우 비점근 워셔스타인 효율성 한계는 $\sqrt{d}/\varepsilon$, $U$의 헤시안이 리프시츠일 경우 $\sqrt{d/\varepsilon}$, 분리 가능한 타겟의 경우 $d^{1/4}/\sqrt{\varepsilon}$이다.
• 총 변동 거리의 수렴 속도는 차원에 영향을 받지 않으며, 이는 수축성과 모멘트 추정에서 유도된 명시적 한계로 도출된다.
• 경험 평균에 대한 농도 부등식은 워셔스타인 수축성에서 직접 유도되어 비점근 신뢰구간을 가능하게 한다.
• 고정측도 $\pi$와 체인의 고정측도 $\pi_\delta$ 사이의 편향은 $\mathcal{W}_1$의 이중 표현을 통해 유계로 제어되며, 명시적 오차 제어가 가능하다.
• 하나의 기울기 평가만을 사용하고 헤시안 계산을 피하므로 HMC 및 기타 운동학 라놀지안 방법과 비교해 유사한 성능을 달성한다.