[논문 리뷰] The Boomerang Sampler

Joris Bierkens, Sebastiano Grazzi외 2명|arXiv (Cornell University)|2020. 06. 24.

Markov Chains and Monte Carlo Methods인용 수 6

한 줄 요약

보머런그 샘플러는 복잡한 사후 분포에서 표본을 추출하기 위해 해밀토니안 역학에 의해 지배되는 조각별 타원 궤도를 사용하는 새로운 연속시간, 비가역 마르코프 체인 몬테카를로 알고리즘입니다. 이 알고리즘은 대규모 데이터셋에서 정확한 서브샘플링을 가능하게 하며, 기존의 PDMP와 비교해 계산 비용을 O(1/d) 감소시키고, 대규모 데이터 환경에서 O(n) 스케일링 이점을 달성하여 로지스틱 회귀 및 확산 다리 시뮬레이션에서 지그재그와 번스 펄스 샘플러를 능가합니다.

ABSTRACT

This paper introduces the Boomerang Sampler as a novel class of continuous-time non-reversible Markov chain Monte Carlo algorithms. The methodology begins by representing the target density as a density, $e^{-U}$, with respect to a prescribed (usually) Gaussian measure and constructs a continuous trajectory consisting of a piecewise elliptical path. The method moves from one elliptical orbit to another according to a rate function which can be written in terms of $U$. We demonstrate that the method is easy to implement and demonstrate empirically that it can out-perform existing benchmark piecewise deterministic Markov processes such as the bouncy particle sampler and the Zig-Zag. In the Bayesian statistics context, these competitor algorithms are of substantial interest in the large data context due to the fact that they can adopt data subsampling techniques which are exact (ie induce no error in the stationary distribution). We demonstrate theoretically and empirically that we can also construct a control-variate subsampling boomerang sampler which is also exact, and which possesses remarkable scaling properties in the large data limit. We furthermore illustrate a factorised version on the simulation of diffusion bridges.

연구 동기 및 목표

• 대규모 베이지안 추론 문제에 대한 표본 추출 효율성을 향상시키는 새로운 연속시간, 비가역 MCMC 알고리즘의 클래스를 개발하는 것.
• 기존의 조각별 결정론적 몬테카를로 방법을 일반화하여 일정 속도 역학을 해밀토니안 기반 타원 궤도로 대체하는 것.
• 보머런그 샘플러에서 정확한 서브샘플링을 가능하게 하여 정(stationary) 분포에 대한 편향 없이 대규모 데이터셋의 계산 비용을 감소시키는 것.
• 모델의 조건부 독립 구조를 활용하는 요소화된 버전의 샘플러를 설계하여 계산 확장성 향상.
• 기준 PDMP인 지그재그와 번스 펄스 샘플러와 비교해 이론적 및 실증적 이점인 수렴 속도, 점근적 분산, 계산 비용 측면에서의 우월성 입증.

제안 방법

• 대상 밀도를 가우시안 측도에 대해 $ e^{-U} $로 모델링하고, 해밀토니안 역학에 따라 $ \frac{d\bm{x}}{dt} = \bm{v}, \frac{d\bm{v}}{dt} = -\bm{x} $로 지배되는 조각별 타원 궤도를 따라 연속적인 궤적을 구성한다.
• 궤도 간 전환 사건은 $ U $의 기울기에서 유도된 비율 함수에 의해 결정되며, 전환 강도는 $ \lambda_{i,j}(\bm{x},\bm{v}) = \langle \bm{v}, \partial_{x_{i,j}} U(\bm{x}) \rangle_+ $ 로 주어진다.
• 제어 변수 기반 서브샘플링 기법을 도입하여 기울기의 불편추정량을 구성함으로써 정확한 서브샘플링을 가능하게 하며, 정 분포에 대한 편향 없이 구현한다.
• 요소화된 보머런그 샘플러는 모델의 조건부 독립 구조를 이용해 국소적으로 계수를 갱신함으로써 국소적 포아송 비율 유계화를 통해 계산 비용을 감소시킨다.
• 상수 포아송 유계 비율 $ \overline{\lambda}_{i,j} = m_{i,j} \sqrt{|x^{i,j}_0|^2 + |v^{i,j}_0|^2} $ 를 사용하며, 궤적을 따라 $ |x^{i,j}_t|^2 + |v^{i,j}_t|^2 $ 가 불변임을 활용한다.
• 이론적 분석은 전환 사건 수가 $ \mathcal{O}(1/d) $ 스케일링을 따른다는 것을 보여주며, 다른 PDMP와 비교해 계산 비용을 감소시킨다.

실험 결과

연구 질문

• RQ1 해밀토니안 역학에 기반한 비가역 연속시간 MCMC 알고리즘이 기존의 PDMP인 지그재그와 번스 펄스 샘플러보다 혼합성과 계산 효율성 측면에서 뛰어나게 성능을 발휘할 수 있는가?
• RQ2 비독립 동일분포가 아닌 데이터를 고려할 때도 정확한 서브샘플링을 사용하는 보머런그 샘플러가 대규모 데이터 근처에서 O(n) 스케일링 이점을 달성할 수 있는가?
• RQ3 요소화된 보머런그 샘플러는 모델의 조건부 독립 구조를 활용해 고차원 환경에서 계산 비용을 줄일 수 있는가?
• RQ4 보머런그 샘플러의 성능은 차원 d에 따라 어떻게 스케일링되며, d가 증가함에 따라 효율성을 유지하는가?
• RQ5 제어 변수 기반 서브샘플링 기법은 정확한 정 분포를 유지하면서 대규모 데이터 베이지안 추론에서 효율적인 표본 추출을 가능하게 할 수 있는가?

주요 결과

• 보머런그 샘플러는 대규모 데이터 근처에서 후행 수축률과 관계없이 비서브샘플링 알고리즘 대비 계산 효율성에서 $ \mathcal{O}(n) $의 이점을 달성한다.
• 보머런그 샘플러의 전환 사건 수는 $ \mathcal{O}(1/d) $ 스케일링을 따르며, 지그재그 및 번스 펄스 샘플러와 같은 다른 PDMP와 비교해 계산 비용을 감소시킨다.
• 실증 결과는 대규모 데이터셋에서 서브샘플링된 보머런그 샘플러가 로지스틱 회귀에서 BPS와 지그재그를 능가하며, 더 빠른 수렴 속도와 낮은 점근적 분산을 보인다.
• 요소화된 보머런그 샘플러는 국소적 구조를 활용하고 국소 갱신을 가능하게 하여 확산 다리 시뮬레이션에서 상당한 계산적 이점을 제공한다.
• 제어 변수 기반 서브샘플링 기법은 정 분포의 정확성을 유지하면서 기울기 평가 비용을 감소시켜 대규모 베이지안 추론에 적합하다.
• 예를 들어 $ \| \nabla^2 U(\bm{x}) \| \leq \frac{1}{4} \| \sum_{i=1}^n \bm{y}^{(i)} (\bm{y}^{(i)})^\top \| $ 와 같은 $ U $의 기울기에 대한 이론적 유계는 안정적이고 효율적인 포아송 비율 유계를 구성하는 데 기여한다.