[논문 리뷰] Generalized Bouncy Particle Sampler

Changye Wu, Christian P. Robert|arXiv (Cornell University)|2017. 06. 15.

Markov Chains and Monte Carlo Methods참고 문헌 18인용 수 15

한 줄 요약

이 논문은 일반화된 반동 입자 샘플러(GFPS)를 소개한다. 이는 결정론적 속도 반사 대신 무작위 전이 동역학을 도입함으로써 BPS(Bouncy Particle Sampler)를 일반화한, 거부 없고 비가역적인 마르코프 체인 몬테카를로 알고리즘이다. GFPS는 속도 갱신에 직접적으로 확률성을 통합함으로써 새로 고침 매개변수 조정이 필요 없게 되어, 표준 BPS에서 발생하는 가역성 문제를 해결하면서도 목표 분포에서 정확한 샘플링을 유지한다.

ABSTRACT

As a special example of piecewise deterministic Markov process, bouncy particle sampler is a rejection-free, irreversible Markov chain Monte Carlo algorithm and can draw samples from target distribution efficiently. We generalize bouncy particle sampler in terms of its transition dynamics. In BPS, the transition dynamic at event time is deterministic, but in GBPS, it is random. With the help of this randomness, GBPS can overcome the reducibility problem in BPS without refreshement.

연구 동기 및 목표

• 결정론적 속도 반사로 인해 발생하는 Bouncy Particle Sampler(BPS)의 가역성 문제를 해결하기 위해.
• 조각별 결정론적 마르코프 과정(PDMP)의 일반화된 프레임워크를 개발하여 BPS와 Zig-Zag 샘플러를 확장하고, 속도 전이에 무작위성을 도입하기 위해.
• BPS에서 새로 고침 빈도 조정이 필요 없도록, 무작위성을 전이 동역학에 직접 통합함으로써 가역성과 에르고딕성을 보장하고 추가 매개변수 없이도 유지하기 위해.
• 빅데이터에서 효율성을 유지하면서도 근사적 방법에 비해 정확한 MCMC 방법을 제공하기 위해.

제안 방법

• GBPS는 결정론적 속도 반사 $ P_{\mathbf{x}}\mathbf{v} $ 를 상태 $ \mathbf{z}_{\tau-} $ 에 기반한 무작위 전이 커널 $ Q(\cdot|\mathbf{z}_{\tau-}) $ 로 대체함으로써 BPS를 일반화한다. 여기서 새로운 속도는 구면 $ S^{d-1} $ 상의 분포에서 추출된다.
• 알고리즘은 이동 좌표계를 사용하여 속도를 분해함으로써 고정된 좌표계를 사용하는 Zig-Zag 과정과는 달리 적응형이고 고정되지 않은 반사 동역학을 가능하게 한다.
• 사건 발생률은 $ \lambda(\mathbf{z}_t) = \max\{0, -\mathbf{v}_t \cdot \nabla \log \pi(\mathbf{x}_t)\} $ 로 정의되며, BPS에서 유도된 것으로, 목표 밀도의 기울기 기반 변화와 사건 발생이 일치하도록 보장한다.
• 전이 동역학은 속도 갱신이 무작위적이며 조건부 분포를 갖도록 설계되어, 불변 측도가 $ \pi(\mathbf{x}) \, d\mathbf{x} \otimes d\mathbf{v} $ 가 되도록 보장한다. 이는 목표 분포를 유지한다.
• 이 방법은 조각별 결정론적 마르코프 과정(PDMP) 이론을 활용하며, 동역학은 목표 함수의 비율 함수에 의해 제어되는 사건 발생 시간에 따라 결정론적 진동과 무작위 점프를 번갈아가며 진행된다.
• 측도 이론적 추론을 통해 에르고딕성을 증명하였으며, 상태 공간의 열린 집합을 가로질러 양의 전이 확률이 존재함을 보여, 임의의 두 불변 측도가 동치여야 한다는 점을 근거로 한다.

실험 결과

연구 질문

• RQ1 결정론적 속도 반사에 의존하지 않고, 가역성 문제를 피할 수 있는 거부 없는 MCMC 샘플러를 구축할 수 있는가?
• RQ2 BPS에서 새로 고침 빈도 조정이 필요 없도록, 무작위성을 직접 속도 전이 메커니즘에 통합할 수 있는가?
• RQ3 무작위 속도 갱신을 가진 일반화된 PDMP 샘플러가 목표 분포에서 정확한 샘플링을 유지하면서 혼합성과 확장성을 향상시킬 수 있는가?
• RQ4 속도 분해에 이동 좌표계를 사용할 경우, 고정 좌표계 방법인 Zig-Zag과 비교해 상태 공간 탐색을 향상시킬 수 있는가?

주요 결과

• GBPS는 새로 고침 과정이 필요 없이 BPS의 가역성 문제를 해결하여 새로 고침 빈도 매개변수 조정이 불필요해졌다.
• GBPS의 무작위 전이 동역학은 불변 분포가 정확히 $ \pi(\mathbf{x}) \, d\mathbf{x} \otimes d\mathbf{v} $ 가 되도록 보장하여 샘플러의 정확성을 유지한다.
• GBPS는 BPS의 거부 없음 성질과 확장성을 유지하여, 근사적 방법 없이도 대규모 데이터셋에서 효율적인 샘플링을 가능하게 한다.
• 이론적 분석을 통해 GBPS가 에르고딕성을 가짐을 증명하였으며, 상태 공간의 열린 집합을 가로질러 양의 전이 확률이 존재함으로써 가역성과 불변 측도의 유일성이 보장된다.
• 이 방법은 이동 좌표계를 사용한 속도 분해를 통해 BPS와 Zig-Zag 과정을 통합된 PDMP 프레임워크 안에서 일반화한다.
• 수치 실험 결과, GBPS는 특히 고차원 및 다모드 목표 분포에서 BPS 및 Zig-Zag과 비교해 유사하거나 더 우수한 혼합 성능을 보였다.