[논문 리뷰] Efficient parameter sampling for Markov jump processes

Boqian Zhang, Vinayak Rao|arXiv (Cornell University)|2017. 04. 07.

Markov Chains and Monte Carlo Methods참고 문헌 33인용 수 6

한 줄 요약

이 논문은 연속시간 마르코프 점프 과정에서 효율적인 베이지안 추론을 위해 균일화(uniformization)와 대칭화(symmetrization) 기법을 활용하여 매개변수와 경로 간의 종속성을 분리한 새로운 메트로폴리스-해스팅스 알고리즘을 제안한다. 이 방법은 기하학적 에르고딕성을 확보하며, 벤치마크 모델에서 게이블스 샘플링, 난이도 높은 메트로폴리스-해스팅스, 입자 MCMC보다 혼합성과 수렴 속도에서 뛰어난 성능을 보인다.

ABSTRACT

Markov jump processes (MJPs) are continuous-time stochastic processes widely used in a variety of applied disciplines. Inference for MJPs typically proceeds via Markov chain Monte Carlo, the state-of-the-art being a uniformization-based auxiliary variable Gibbs sampler. This was designed for situations where the MJP parameters are known, and Bayesian inference over unknown parameters is typically carried out by incorporating it into a larger Gibbs sampler. This strategy of sampling parameters given path, and path given parameters can result in poor Markov chain mixing. In this work, we propose a simple and elegant algorithm to address this problem. Our scheme brings Metropolis-Hastings approaches for discrete-time hidden Markov models to the continuous-time setting, resulting in a complete and clean recipe for parameter and path inference in MJPs. In our experiments, we demonstrate superior performance over Gibbs sampling, as well as another popular approach, particle MCMC. We also show our sampler inherits geometric mixing from an `ideal' sampler that operates without computational constraints.

연구 동기 및 목표

• 숨겨진 경로와 알려지지 않은 매개변수 간의 강한 결합으로 인해 MCMC 추론에서 혼합성이 떨어지는 문제를 해결하기 위해.
• 로우-테이(Rao-Teh) 보조 변수 게이블스 샘플러의 더 나은 대안을 개발하기 위해. 이 샘플러는 경로와 매개변수를 번갈아가며 샘플링한다.
• 매개변수 중심의 메트로폴리스-해스팅스 접근법을 통해 MJP에서 더 빠르고 신뢰할 수 있는 베이지안 추론을 가능하게 하기 위해.
• 제안된 샘플러가 온화한 조건 하에 이상적인 그러나 계산적으로 비용이 큰 샘플러로부터 기하학적 에르고딕성을 물려받는다는 것을 증명하기 위해.

제안 방법

• 경로의 효율적 마진화를 가능하게 하기 위해, 사건 시간의 포oisson 분포를 가진 격자 생성을 위해 균일화를 사용한다.
• 제안 분포가 현재 매개변수 값에 의존하는 것을 제거하기 위해, 대칭화 기법을 도입하여 제안의 효율성을 향상시킨다.
• 잠재 경로와 매개변수의 공동 사후분포를 대상으로 하는 메트로폴리스-해스팅스 업데이트를 수행하며, 랜덤한 포아송 격자에 조건을 두는 제안을 사용한다.
• 기하학적 에르고딕성을 증명하기 위해, 도약 조건과 미니멀라이제이션 조건을 유도하며, 이는 이상화된 기준 체인으로부터 이 성질을 물려받는다는 것을 보여준다.
• 생식-죽음 과정, 이민-죽음 모델, 코돈 치환 모델을 포함한 저차원 매개변수 추론에 이 방법을 적용한다.
• 안정성과 수렴성을 보장하기 위해, 수렴 가능한 수용 확률과 철저히 구성된 제안 밀도를 사용한다.

실험 결과

연구 질문

• RQ1 강한 혼합성을 보이는 게이블스 샘플링보다 더 나은 혼합성을 확보하기 위해, 마르코프 점프 과정에서 매개변수와 잠재 경로를 동시에 추론할 수 있는 메트로폴리스-해스팅스 알고리즘을 설계할 수 있는가?
• RQ2 현재 매개변수 값으로부터 제안을 분리함으로써, 제안 메커니즘이 대칭화됨으로써 MCMC 효율성이 향상되는가?
• RQ3 제안된 샘플러가 이상적인 그러나 계산적으로 비용이 큰 기준 샘플러로부터 기하학적 에르고딕성을 물려받을 수 있는가?
• RQ4 입자 MCMC 및 난이도 높은 메트로폴리스-해스팅스와 같은 기존 방법과 비교했을 때, 수렴성과 혼합성 측면에서 성능이 어떻게 되는가?

주요 결과

• 제안된 대칭화된 메트로폴리스-해스팅스 알고리즘은 합성 및 실세계 데이터셋에서 게이블스 샘플링보다 효과적 샘플 크기와 수렴 속도에서 뚜렷한 우월성을 보였다.
• 온화한 정규성 조건 하에서 기하학적 에르고딕성을 확보하였으며, 이는 계산적으로 실행 불가능한 이상화된 기준 체인으로부터 이 성질을 물려받는다는 것을 보여주었다.
• E. coli 유전자 발현 데이터셋에서, 입자 MCMC 및 난이도 높은 메트로폴리스-해스팅스보다 더 빠른 수렴과 더 안정적인 사후 추정치를 보였다.
• 특히 고차원 매개변수 공간에서, 대칭화를 사용하지 않는 난이도 높은 메트로폴리스-해스팅스보다 더 뛰어난 혼합성을 보였다.
• 이론적 분석을 통해, 수축률 δ > 0 인 도약 조건이 충족됨을 확인하였으며, 이는 제안 및 목표 분포가 잘 행동할 경우 기하학적 에르고딕성이 보장됨을 의미한다.