[논문 리뷰] Binary Bouncy Particle Sampler

Ari Pakman|arXiv (Cornell University)|2017. 11. 02.

Bayesian Methods and Mixture Models참고 문헌 10인용 수 5

한 줄 요약

이 논문은 조각별로 미분 가능한 잠재 변수를 사용하여 이진 분포를 확장함으로써, 이항 분포에서 표본을 추출하기 위한 거부가 없는 비가역 MCMC 알고리즘인 이진 바운시 페르티클 샘플러(Binary Bouncy Particle Sampler, BPS)를 제안한다. 가우스 또는 지수 분포를 이용한 확장 기법을 사용하여 이진 마르코프 무작위 필드(Markov Random Fields)에 BPS 프레임워크를 확장하였으며, 낮은 차원의 쉽게 혼합되는 설정에서 이진 해밀토니안 몬테카를로(Hamiltonian Monte Carlo, HMC)에 비해 뛰어난 혼합 성능을 보였다. 저차원에서는 지수 분포 확장이, 고차원에서는 가우스 분포 확장이 더 우수하다.

ABSTRACT

The Bouncy Particle Sampler is a novel rejection-free non-reversible sampler for differentiable probability distributions over continuous variables. We generalize the algorithm to piecewise differentiable distributions and apply it to generic binary distributions using a piecewise differentiable augmentation. We illustrate the new algorithm in a binary Markov Random Field example, and compare it to binary Hamiltonian Monte Carlo. Our results suggest that binary BPS samplers are better for easy to mix distributions.

연구 동기 및 목표

• 이진 분포와 조각별로 미분 가능한 분포에 대해 바운시 페르티클 샘플러(BPS)를 확장하여 이산 분포에서 효율적으로 표본을 추출할 수 있도록 하는 것.
• 이진 분포를 조각별로 미분 가능한 연속 분포로 변환할 수 있는 일반적인 확장 기반 방법을 개발하여 BPS에 적합하게 만드는 것.
• 다양한 모델 복잡도와 차원에서 이진 BPS와 이진 HMC의 혼합 효율성 및 수렴 속도를 비교하는 것.
• 다양한 문제 영역(저차원 대 고차원)에서 최적의 확장 기법(Gaussian 대 exponential)을 규명하는 것.

제안 방법

• 조각별로 미분 가능한 잠재 에너지 함수를 사용하여 이진 분포 $ p({\bf s}) $ 를 연속 변수 $ {\bf y} $ 와 함께 확장하여 연합 분포 $ p({\bf s}, {\bf y}) $ 를 생성한다. 예를 들어, $ p_G({\bf y}|{\bf s}) $ 또는 $ p_E({\bf y}|{\bf s}) $ 와 같은 형태로 구현할 수 있다.
• 가우스 확장을 위한 연합 잠재 에너지 함수 $ U({\bf y}) = \frac{{\bf y} \cdot {\bf y}}{2} - \log p({\bf s}_{\bf y}) + \text{const} $ 를 정의하거나, 지수 확장을 위한 $ U({\bf y}) = |{\bf y}| - \log p({\bf s}_{\bf y}) + \text{const} $ 를 정의한다.
• 잠재 공간에서의 BPS 알고리즘을 적용하기 위해, 속도 재설정과 $ [{\bf v} \cdot \nabla U({\bf y})]_+ $ 를 기반으로 한 포아송 분포 이벤트에서의 반사 동작을 포함하는 조각별 결정론적 마르코프 과정을 시뮬레이션한다.
• 다음 반사 이벤트까지의 시간을 추출하기 위해 역누적분포함수(CDF) 방법을 사용하여 연속 시간에서 정확한 시뮬레이션을 보장한다.
• 확장된 분포에서 표본을 추출하고 $ \bf y $ 에 대해 주변화하여 원래의 이진 분포에서 표본을 추출한다.
• C++로 알고리즘을 구현하고 MATLAB 워퍼를 제공하며, 동일한 계산 예산을 사용하여 이진 HMC와 성능을 비교한다.

실험 결과

연구 질문

• RQ1 조각별로 미분 가능한 잠재 변수를 사용한 연속 확장을 통해 바운시 페르티클 샘플러를 조각별로 미분 가능한 이진 분포로 확장할 수 있는가?
• RQ2 다양한 모델 복잡도에서 이진 BPS 샘플러의 혼합 효율성은 이진 HMC와 어떻게 비교되는가?
• RQ3 저차원과 고차원 환경에서 어떤 확장 기법(Gaussian 대 exponential)이 더 뛰어난 혼합 성능을 보이는가?
• RQ4 이진 BPS 샘플러는 쉽게 혼합되는 분포에서 이진 HMC를 능가하는가? 만약 그렇다면 어떤 조건에서 그러한 성능 향상이 발생하는가?

주요 결과

• 저차원 문제($ d = 10 $)에서는, 쉽게 혼합되는 설정($ \sigma_{\bf M} = 0.2 $)에서 이항 BPS가 지수 확장을 사용할 경우, $ \mathbb{E}[s_i] $ 와 $ \mathbb{E}[s_i, s_j] $ 의 평균제곱오차(MSE)에서 이진 HMC와 가우스 BPS를 모두 능가한다.
• 고차원 설정($ d = 100 $)에서는, 쉽게 혼합되는 경우 이항 BPS가 가우스 확장을 사용할 경우 가장 낮은 MSE를 기록하지만, 높은 변동성을 보이는 어려운 설정($ \sigma_{\bf M} = 2 $)에서는 여전히 이진 HMC가 우월하다.
• 저차원, 쉽게 혼합되는 경우에 이항 BPS가 지수 확장을 사용할 경우 우세하며, 이는 확장 방식의 선택이 차원에 따라 달라져야 함을 시사한다.
• 이중 BPS 샘플러는 쉽게 혼합되는 분포에서 항상 이진 HMC보다 뛰어난 혼합 성능을 보이며, 이는 목표 분포가 잘 행동하는 경우 비가역적이고 거부가 없는 동역학이 유리함을 나타낸다.
• 적절한 확장을 사용할 경우, 다양한 계산 예산에서도 이항 BPS의 성능은 일관되게 뛰어나며, 특히 쉽게 혼합되는 설정에서 뚜렷한 우위를 보인다.