[논문 리뷰] Randomized Hamiltonian Monte Carlo as Scaling Limit of the Bouncy Particle Sampler and Dimension-Free Convergence Rates

George Deligiannidis, Daniel Paulin외 2명|arXiv (Cornell University)|2018. 08. 13.

Markov Chains and Monte Carlo Methods인용 수 4

한 줄 요약

이 논문은 높은 차원에서 Bouncy Particle Sampler (BPS)가 Randomized Hamiltonian Monte Carlo (RHMC)로 약한 수렴을 보임을 입증하며, 강한 로그-볼록성과 유계 헤시안 조건 하에서 RHMC에 대해 치수에 의존하지 않는 수렴 속도를 확립한다. 이는 커플링 및 히포코ercivity 기법을 사용하여 이루어진다.

ABSTRACT

The Bouncy Particle Sampler is a Markov chain Monte Carlo method based on a nonreversible piecewise deterministic Markov process. In this scheme, a particle explores the state space of interest by evolving according to a linear dynamics which is altered by bouncing on the hyperplane tangent to the gradient of the negative log-target density at the arrival times of an inhomogeneous Poisson Process (PP) and by randomly perturbing its velocity at the arrival times of an homogeneous PP. Under regularity conditions, we show here that the process corresponding to the first component of the particle and its corresponding velocity converges weakly towards a Randomized Hamiltonian Monte Carlo (RHMC) process as the dimension of the ambient space goes to infinity. RHMC is another piecewise deterministic non-reversible Markov process where a Hamiltonian dynamics is altered at the arrival times of a homogeneous PP by randomly perturbing the momentum component. We then establish dimension-free convergence rates for RHMC for strongly log-concave targets with bounded Hessians using coupling ideas and hypocoercivity techniques.

연구 동기 및 목표

• 상태 공간의 차원이 증가함에 따라 Bouncy Particle Sampler (BPS)의 渐近적 행동을 이해하는 것.
• 스케일링 극한에서 BPS와 Randomized Hamiltonian Monte Carlo (RHMC) 사이의 엄밀한 연결 고리를 확립하는 것.
• 강한 로그-볼록 목표 분포와 유계 헤시안 조건 하에서 RHMC에 대해 치수에 의존하지 않는 수렴 속도를 유도하는 것.
• 고차원 설정에서 수렴을 분석하기 위해 커플링 및 히포코ercivity 기법을 활용하는 것.
• 비재시적 MCMC 방법의 고차원에서의 효율성에 대한 이론적 근거를 제공하는 것.

제안 방법

• BPS와 RHMC 모두에 대해 조각적 결정론적 마코프 과정(PDMP) 프레임워크를 사용하며, 입자는 선형 동역학을 따르고 무작위 시점에 간섭을 받는다.
• BPS를 로그-타겟의 기울기 기반으로 비균일 포아송 과정 도착 시 속도 점프를 가지며, 균일 포아송 과정 도착 시 운동량 재설정을 가지는 과정으로 모델링한다.
• 약한 수렴 이론을 적용하여, 상태 공간의 차원이 무한히 증가함에 따라 BPS 과정의 첫 번째 성분이 RHMC의 해당 성분으로 수렴함을 보여준다.
• RHMC 과정의 경로를 비교하고 목표 분포로의 수렴 속도를 유계화하기 위해 커플링 기법을 적용한다.
• 강한 로그-볼록성과 유계 헤시안 조건 하에서 치수에 의존하지 않는 수렴 속도를 확립하기 위해 히포코ercivity 방법을 활용한다.
• PDMP의 생성자와 불변 측도를 분석하여 에르고딕성과 목표 분포로의 수렴을 보장한다.

실험 결과

연구 질문

• RQ1 Bouncy Particle Sampler는 고차원 극한에서 알려진 MCMC 방법으로 수렴하는가?
• RQ2 스케일링 극한에서 Bouncy Particle Sampler와 Randomized Hamiltonian Monte Carlo 사이의 관계는 무엇인가?
• RQ3 강한 로그-볼록성과 유계 헤시안 조건 하에서 RHMC에 대해 치수에 의존하지 않는 수렴 속도를 확립할 수 있는가?
• RQ4 커플링 및 히포코ercivity 기법은 고차원 설정에서 수렴을 증명하는 데 어떻게 기여하는가?
• RQ5 비재시적 PDMP 기반 샘플러에 대해 고차원에서 어떤 이론적 보장이 가능할 수 있는가?

주요 결과

• 상태 공간의 차원이 무한히 증가함에 따라 Bouncy Particle Sampler는 약한 수렴을 통해 Randomized Hamiltonian Monte Carlo로 수렴한다.
• 한계 과정인 RHMC는 비재시적 PDMP이며, 균일 포아송 과정 도착 시점에 운동량이 무작위로 교란된다.
• 강한 로그-볼록성과 유계 헤시안 조건 하에서 RHMC에 대해 치수에 의존하지 않는 수렴 속도가 확립된다.
• 수렴 속도는 차원에 독립적으로 유계되어 있어, 고차원 목표 분포에서의 확장성 잠재력을 보여준다.
• 커플링 기법과 히포코ercivity 기법의 조합은 고차원 비재시적 MCMC에서의 수렴 분석을 위한 엄밀한 프레임워크를 제공한다.
• 이론적 결과는 BPS 및 RHMC와 같은 비재시적 샘플러가 고차원 베이지안 추론에서 경험적으로 효율적임을 정당화한다.