[논문 리뷰] The Coordinate Sampler: A Non-Reversible Gibbs-like MCMC Sampler

Changye Wu, Christian P. Robert|arXiv (Cornell University)|2018. 09. 10.

Markov Chains and Monte Carlo Methods참고 문헌 24인용 수 4

한 줄 요약

이 논문은 조각적 결정론적 마코프 과정(PDMP)에 기반한 새로운 비가역 MCMC 알고리즘인 좌표 샘플러(Coordinate Sampler)를 소개한다. 이 알고리즘은 속도 벡터의 정규직교 기저를 사용하여 한 번에 한 좌표씩 업데이트한다. 이는 지수적, 가우시안 꼬리를 가지는 타겟 분포에 대해 기하적 정규성을 달성하며, 수치 실험에서 지직잭(Zigzag) 샘플러보다 높은 유효 표본 크기 효율성을 보여준다.

ABSTRACT

In this article, we derive a novel non-reversible, continuous-time Markov chain Monte Carlo (MCMC) sampler, called Coordinate Sampler, based on a piecewise deterministic Markov process (PDMP), which can be seen as a variant of the Zigzag sampler. In addition to proving a theoretical validation for this new sampling algorithm, we show that the Markov chain it induces exhibits geometrical ergodicity convergence, for distributions whose tails decay at least as fast as an exponential distribution and at most as fast as a Gaussian distribution. Several numerical examples highlight that our coordinate sampler is more efficient than the Zigzag sampler, in terms of effective sample size.

연구 동기 및 목표

• 기존의 PDMP 기반 샘플러인 지직잭(Zigzag)과 번스터 파티클 샘플러(Bouncy Particle Samplers)의 한계를 극복하는 새로운 비가역 MCMC 샘플러를 개발한다.
• 이벤트 빈도를 줄이고 개별 성분에 대한 타겟 업데이트를 가능하게 하여 샘플링 효율성을 향상시킨다.
• 타겟 분포의 꼬리 조건이 상대적으로 온화할 때 좌표 샘플러의 기하적 정규성에 대한 이론적 증명을 수립한다.
• 유효 표본 크기를 측정 기준으로 하여 좌표 샘플러를 지직잭 샘플러와 실증적으로 비교한다.
• 고차원 베이지안 추론에서 가역 MCMC 방법의 이론적으로 탄탄한 효율적 대안을 제공한다.

제안 방법

• 좌표 샘플러는 지직잭 샘플러에서 사용하는 ±1 벡터 대신 R^d의 정규직교 기저에서 유도된 속도 벡터를 사용하는 조각적 결정론적 마코프 과정(PDMP)을 사용한다.
• 각 전이 과정에서 오직 한 성분만 업데이트하고 나머지 성분은 고정함으로써 이벤트 수를 줄이고 효율성을 향상시킨다.
• 이벤트 빈도 함수는 λ(x + tv, v) = {v_i ∇_i U(x + tv)}_+ + λ₀로 정의되며, 여기서 v_i ≠ 0은 오직 한 좌표 i에 대해서만 성립한다.
• 알고리즘은 이벤트 사이에 결정론적으로 진동하며, 잠재 함수의 기울기에서 유도된 강도 함수에 의해 제어되는 무작위 시간에 상태 변화가 발생한다.
• 상세 균형 조건이 필요 없으므로 비가역 동역학이 가능하여 혼합성과 수렴 속도 향상에 기여한다.
• 이론적 검증으로서 타겟 분포의 꼬리 감쇠 조건(지수적에서 가우시안까지)이 상대적으로 온화할 때 기하적 정규성의 증명이 제공된다.

실험 결과

연구 질문

• RQ1 좌표를 한 번에 하나씩 업데이트하는 PDMP 기반 MCMC 샘플러가 지직잭 샘플러보다 더 나은 혼합성과 효율성을 달성할 수 있는가?
• RQ2 ±1 벡터 대신 정규직교 속도 벡터를 사용함으로써 이벤트 발생 빈도가 감소하고 샘플링 효율성이 향상되는가?
• RQ3 좌표 샘플러가 어떤 조건에서 기하적 정규성을 나타내는가?
• RQ4 다양한 타겟 분포에서 좌표 샘플러와 지직잭 샘플러의 유효 표본 크기 측면에서의 성능 비교는 어떻게 되는가?
• RQ5 무거운 꼬리 또는 복잡한 사후 분포를 가진 고차원 설정에서도 좌표 샘플러는 양호한 성능을 유지할 수 있는가?

주요 결과

• 좌표 샘플러는 꼬리가 지수적 이상, 가우시안 이하로 감쇠하는 타겟 분포에 대해 기하적 정규성을 달성한다.
• 수치 결과는 벨로니아 모양, 다변량 정규분포, 베이지안 로지스틱 회귀 타겟 분포에서 좌표 샘플러가 항상 지직잭 샘플러보다 높은 유효 표본 크기를 확보함을 보여준다.
• 좌표별 업데이트와 정규직교 속도 선택 덕분에 좌표 샘플러의 이벤트 빈도는 지직잭 샘플러보다 상당히 낮으며, 특히 고차원에서 두드러진다.
• 단위 시간당 상태 변화 수가 감소하여 계산 이벤트 수가 줄어들고 효율성이 향상된다.
• 이론적 분석은 타겟 밀도에 대한 상대적으로 온화한 정규성 조건 하에서 샘플러의 안정성과 수렴 성질을 확인한다.
• 실증적 비교 결과, 좌표 샘플러는 단위 계산 시간당 유효 표본 크기 측면에서 지직잭 샘플러를 능가함을 입증한다.