[논문 리뷰] Scalable Bayesian Inference for Population Markov Jump Processes

Iker Perez, Theodore Kypraios|arXiv (Cornell University)|2019. 04. 17.

Gene Regulatory Network Analysis참고 문헌 26인용 수 3

한 줄 요약

이 논문은 비정상적인 점프 과정의 균일화 표현을 사용하여 인구 마르코프 점프 과정에서 정확한 베이지안 추론을 위한 확장 가능하고 일반적인 데이터 증강 프레임워크를 소개한다. 보조 변수를 활용하여 혼합성과 확장성을 향상시켜, 유행병, 이주, 천적-피식자 모델 등 다양한 모델에서 효율적인 MCMC 샘플링을 가능하게 한다. 특히 상태공간이 크거나 무한대일 경우에 유용하다.

ABSTRACT

Bayesian inference for Markov jump processes (MJPs) where available observations relate to either system states or jumps typically relies on data-augmentation Markov Chain Monte Carlo. State-of-the-art developments involve representing MJP paths with auxiliary candidate jump times that are later thinned. However, these algorithms are i) unfeasible in situations involving large or infinite capacity systems and ii) not amenable for all observation types. In this paper we establish and present a general data-augmentation framework for population MJPs based on uniformized representations of the underlying non-stationary jump processes. This leads to multiple novel MCMC samplers which enable exact (in the Monte Carlo sense) inference tasks for model parameters. We show that proposed samplers outperform existing popular approaches, and offer substantial efficiency gains in applications to partially observed stochastic epidemics, immigration processes and predator-prey dynamical systems.

연구 동기 및 목표

• 크거나 무한대의 상태공간에서 계산적으로 비가능한 기존 MCMC 방법의 한계를 해결한다.
• 인구 수나 점프 사건과 같은 다양한 관측 유형에 적용되지 않는 현재의 데이터 증강 기법의 한계를 극복한다.
• 비정상적이고 시간에 따라 변화하는 점프 과정에 대해 정확한 베이지안 추론(몬테카를로 의미에서)을 지원하는 일반적인 프레임워크를 개발한다.
• 부분적 또는 노이즈가 있는 관측이 있는 복잡한 시스템, 예를 들어 확률적 유행병, 이주-사망 과정, 천적-피식자 역학에서의 확장 가능한 추론을 가능하게 한다.
• 기존 최고 수준의 방법보다 효과적인 표본 크기와 계산 효율성 측면에서 뛰어난 성능을 보이는 효율적인 MCMC 샘플러를 설계한다.

제안 방법

• 비정상적인 점프 과정의 균일화 표현을 사용하여 MJP 추론을 위한 일반적인 데이터 증강 프레임워크를 구축한다.
• 균일화된 점프 과정의 포isson 희박화 기반 보조 변수를 도입하여 경로 거부 없이 정확한 경로 증강을 가능하게 한다.
• 균일화 속도를 제어하기 위해 도미네이팅 레이트 함수 $\Omega = \max_{x \in \mathcal{S}} \sup_{t \in [0,T]} |Q_x(t)|$ 를 사용하여 타당한 확률적 시뮬레이션을 보장한다.
• 균일화된 경로 밀도(식 (1))에서 유도된 조건부 밀도를 활용해 잠재 점프 시간과 경로를 동시에 갱신하는 새로운 MCMC 샘플러를 도출한다.
• 혼합성 향상과 MCMC 체인의 자기상관 감소를 위해 연산자 기반의 희박화 전략(예: $\psi(t,x) = 0.5 \cdot |Q_x(t)|$)을 적용한다.
• 특히 대규모 인구 시스템에서의 고차원 상태공간에서 혼합성을 향상시키기 위해 지연 기반 조건부 브릿지(예: $l = 0.5N$ 또는 $0.75N$)를 구현한다.

실험 결과

연구 질문

• RQ1 비정상적이고 인구 규모의 마르코프 점프 과정에서 정확한 베이지안 추론을 위한 일반적인 데이터 증강 프레임워크를 개발할 수 있는가?
• RQ2 크거나 무한대의 상태공간을 가진 시스템에서 보조 변수 기반 MCMC 방법이 효율적이고 확장 가능하게 유지될 수 있는가?
• RQ3 제안된 샘플러가 기존 최고 수준의 방법보다 효과적인 표본 크기와 계산 효율성 측면에서 얼마나 뛰어나게 성능을 발휘하는가?
• RQ4 이 프레임워크는 다양한 관측 유형, 예를 들어 인구 수나 점프 사건을 다양한 확률 모델에서 처리할 수 있는가?
• RQ5 지연 기반 조건부 브릿지와 적응형 희박화 연산자가 고차원 추론 작업에서 MCMC 혼합성과 수렴성에 미치는 영향은 무엇인가?

주요 결과

• 제안된 프레임워크는 균일화된 경로 표현 기반 MCMC 샘플러를 사용하여 인구 마르코프 점프 과정에서 정확한 베이지안 추론을 가능하게 한다.
• 새로운 MCMC 샘플러는 대규모 인구 설정에서 기존의 순수 균일화 및 기준 기준 샘플러 대비 효과적인 표본 크기 비율이 1.5배 이상을 초과하는 상당한 효율성 향상을 달성한다.
• 상태공간이 최대 $14,400$(즉, $120^2$)에 이르는 천적-피식자 모델에서도 이 방법은 효과적으로 스케일업되며, 높은 인구 한계 조건에서도 높은 효과적인 표본 크기를 유지한다.
• 지연 기반 조건부 브릿지($l = 0.5N$ 및 $l = 0.75N$)는 순수한 방법과 기준 보조 변수 샘플러를 모두 능가하는 혼합성을 크게 향상시킨다.
• 이 프레임워크는 이전 방법(예: Rao와 Teh, 2013)을 특수 케이스로 포함하고 일반화하며, 이론적 일관성을 확인한다.
• 실험 결과는 제안된 샘플러가 모든 매개변수($\alpha, \beta, \delta, \gamma$)에서 높은 성능을 유지하며, 모든 테스트 설정에서 최소 효과적인 표본 크기 비율이 일관되게 1.2 이상을 유지함을 보여준다.