[논문 리뷰] Fast MCMC sampling for Markov jump processes and continuous time Bayesian networks

Vinayak Rao, Yee Whye Teh|arXiv (Cornell University)|2012. 02. 14.

Bayesian Modeling and Causal Inference참고 문헌 21인용 수 29

한 줄 요약

이 논문은 마르코프 점프 과정과 연속 시간 베이지안 네트워크에서 효율적인 마르코프 체인 몬테 카를로(MCMC) 샘플링을 위한 빠른 보조 변수 기반 지브스 샘플러를 소개한다. 가상의 점프 시간을 생성하기 위해 유니폼라이제이션을 활용하고 이산 시간 포인트에서 전진-후진 샘플링을 적용함으로써, 기존의 지브스 샘플러에 비해 상당한 계산 속도 향상을 이룩하면서도 관측되지 않은 경로에 대한 정확한 추론을 유지한다.

ABSTRACT

Markov jump processes and continuous time Bayesian networks are important classes of continuous time dynamical systems. In this paper, we tackle the problem of inferring unobserved paths in these models by introducing a fast auxiliary variable Gibbs sampler. Our approach is based on the idea of uniformization, and sets up a Markov chain over paths by sampling a finite set of virtual jump times and then running a standard hidden Markov model forward filtering-backward sampling algorithm over states at the set of extant and virtual jump times. We demonstrate significant computational benefits over a state-of-the-art Gibbs sampler on a number of continuous time Bayesian networks.

연구 동기 및 목표

• 연속 시간 스토케스틱 모델에서 관측되지 않은 경로를 샘플링하는 데 발생하는 계산적 병목 현상을 해결하기 위해.
• 마르코프 점프 과정과 연속 시간 베이지안 네트워크를 위한 확장 가능한 MCMC 방법을 개발하기 위해.
• 이러한 모델에서 경로 추론의 계산 비용을 낮추되, 샘플링 정확도를 훼손하지 않기 위해.
• 복잡한 동적 시스템에서 잠재 경로에 대한 효율적인 사후 추론을 가능하게 하기 위해.

제안 방법

• 이 방법은 연속 시간 과정을 유한한 수의 가상 점프 시간으로 구성된 이산 시간 마르코프 체인으로 변환하기 위해 유니폼라이제이션을 활용한다.
• 잠재적인 점프 시간을 나타내는 보조 변수를 도입하여 관측된 사건과 가상의 사건을 포함한 공동 상태 공간을 구성한다.
• 실제 점프 시간과 가상 점프 시간으로 구성된 확장된 시간 격자에서 표준 전진 필터링 및 후진 샘플링 알고리즘을 적용한다.
• 현재 상태와 가상 점프 시간에 조건부로 경로를 반복적으로 재샘플링함으로써, 확장된 상태 공간 내의 조건부 독립성을 활용한다.
• 기각 샘플링을 피하고 지수 분포의 기억이 없는 성질을 정확한 이산화를 통해 활용한다.
• 알고리즘은 지브스 샘플링 프레임워크에 통합되어 경로를 업데이트하면서 세부 균형을 유지하고 정확한 사후분포로 수렴한다.

실험 결과

연구 질문

• RQ1 연속 시간 베이지안 네트워크에서 관측되지 않은 경로에 대한 더 빠른 MCMC 샘플링을 달성할 수 있는가?
• RQ2 유니폼라이제이션 기반 보조 변수 샘플링은 최신 기술 수준의 지브스 샘플러에 비해 계산 효율성 측면에서 어떻게 비교되는가?
• RQ3 가상 점프 시간은 경로 추론에서 혼합성과 수렴 속도에 어떤 영향을 미치는가?
• RQ4 이 방법은 복잡하고 고차원적인 연속 시간 동적 시스템으로 확장 가능한가?

주요 결과

• 제안된 방법은 여러 개의 연속 시간 베이지안 네트워크 벤치마크에서 최신 기술 수준의 지브스 샘플러에 비해 상당한 계산 속도 향상을 달성한다.
• 가상 점프 시간의 사용은 기각 없이 정확한 경로 샘플링을 가능하게 하여 혼합성과 수렴성을 향상시킨다.
• 이 방법은 높은 점프 강도와 복잡한 상태 전이를 가진 모델에도 효과적으로 확장 가능하다.
• 실험 결과, 기준 방법에 비해 더 빠른 수렴 속도와 낮은 자동상관도를 보였다.