[논문 리뷰] High-dimensional MCMC with a standard splitting scheme for the underdamped Langevin

Pierre Monmarché|arXiv (Cornell University)|2020. 07. 10.

Markov Chains and Monte Carlo Methods인용 수 3

한 줄 요약

이 논문은 매 반복마다 기울기 계산을 한 번만 요구하는 표준 2차 스킴 분할 적분기를 사용한 과소감쇠 랑주뱅 동역학 기반의 고차원 마르코프 체인 몽테카를로(MCMC) 샘플러를 제안한다. 이는 워샤르슈타인 거리의 치수에 의존하지 않는 수축성과 총변동 거리 및 워샤르슈타인 거리에 대한 비점근 수렴 속도를 확립하며, 다양한 부드러움 조건 하에서 효율성 한계가 $\sqrt{d}/\varepsilon$, $\sqrt{d/\varepsilon}$, $d^{1/4}/\sqrt{\varepsilon}$로 척도화되며, HMC 및 운동 에너지 기반 랑주뱅 방법의 알려진 성능과 일치한다.

ABSTRACT

The efficiency of a markov sampler based on the underdamped Langevin diffusion is studied for high dimensionial targets with convex and smooth potentials. We consider a classical second-order integrator which requires only one gradient computation per iteration. Contrary to previous works on similar samplers, a dimension-free contraction of Wasserstein distances and convergence rate for the total variance distance are proved for the discrete time chain itself. Non-asymptotic Wasserstein and total variation efficiency bounds and concentration inequalities are obtained for both the Metropolis adjusted and unadjusted chains. In terms of the dimension $d$ and the desired accuracy $\varepsilon$, the Wasserstein efficiency bounds are of order $\sqrt d / \varepsilon$ in the general case, $\sqrt{d/\varepsilon}$ if the Hessian of the potential is Lipschitz, and $d^{1/4}/\sqrt\varepsilon$ in the case of a separable target, in accordance with known results for other kinetic Langevin or HMC schemes.

연구 동기 및 목표

• 로그-볼록, 부드럽고 볼록인 타겟을 위한 효율적인 고차원 MCMC 샘플러를 개발하기 위해.
• 과소감쇠 랑주뱅 확산에 대한 표준 2차 스킴 분할 방법의 수렴 성질을 고차원에서 분석하기 위해.
• 조정되지 않은 체인과 메트로폴리스 조정 체인 양쪽에 대해 워샤르슈타인 거리와 총변동 거리에 대한 비점근 경계를 확립하기 위해.
• 차원 $d$와 정확도 $\varepsilon$에 따라 최적으로 척도화되는 효율성 한계를 유도하여 HMC 및 운동 에너지 기반 랑주뱅 방법의 알려진 결과와 일치시키기 위해.

제안 방법

• 과소감쇠 랑주뱅 SDE를 이산화하기 위해 2차 스킴 분할 적분기를 사용하며, 이는 매 반복마다 기울기 평가를 한 번만 요구한다.
• 이 방법은 과소감쇠 SDE의 구조를 활용하여 고차원 샘플링에서 안정성과 정확성을 확보한다.
• 이산 시간 마르코프 체인 자체에 대해 워샤르슈타인 거리의 수축성을 증명한다. 이는 한계에서만 성립하는 것이 아니라 실제 체인에 대해 성립한다.
• 조정되지 않은 체인과 메트로폴리스 조정 체인의 양쪽에 대해 비점근 농도 부등식과 총변동 거리 경계를 유도한다.
• 리프시츠 헤시안 조건을 포함한 볼록성과 부드러움 조건을 활용하여 치수에 따라 달라지는 효율성 한계를 도출한다.

실험 결과

연구 질문

• RQ1 이산 시간 과소감쇠 랑주뱅 체인이 고차원 환경에서 수렴 속도는 어떻게 되는가?
• RQ2 조정되지 않은 체인에 대해 워샤르슈타인 거리의 치수에 의존하지 않는 수축성을 확립할 수 있는가?
• RQ3 다양한 부드러움 조건 하에서 차원 $d$와 목표 정확도 $\varepsilon$에 따라 효율성 한계는 어떻게 척도화되는가?
• RQ4 이 성능 경계는 HMC 및 기타 운동 에너지 기반 랑주뱅 샘플러의 성능 경계와 어떻게 비교되는가?

주요 결과

• 스플릿팅 스킴 기반의 이산 시간 마르코프 체인은 워샤르슈타인 거리에 대해 치수에 의존하지 않는 수축성을 보인다.
• 조정되지 않은 체인과 메트로폴리스 조정 체인의 양쪽에 대해 총변동 거리에 대한 비점근 경계가 확립된다.
• 일반적인 경우 워샤르슈타인 효율성 한계는 $\sqrt{d}/\varepsilon$로 척도화되며, 잠재력의 헤시안이 리프시츠 조건을 만족할 경우 $\sqrt{d/\varepsilon}$로, 분리 가능한 타겟의 경우 $d^{1/4}/\sqrt{\varepsilon}$로 척도화된다.
• 이러한 효율성 한계는 HMC 및 운동 에너지 기반 랑주뱅 방법의 알려진 최적 척도와 일치하여, 이 방법의 경쟁력을 확인한다.