[논문 리뷰] A comparison of nonlinear population Monte Carlo and particle Markov chain Monte Carlo algorithms for Bayesian inference in stochastic kinetic models

Eugenia Koblents, Joaquı́n Mı́guez|arXiv (Cornell University)|2014. 04. 21.

Statistical Methods and Bayesian Inference참고 문헌 3인용 수 4

한 줄 요약

이 논문은 비선형 인구 몬테카를로(NPMC)와 입자 마르코프 체인 몬테카를로(pMCMC)를 스토케스틱 키네틱 모델에서 베이지안 추론에 대해 비교하며, 비선형 중복성과 낮은 계산 비용을 바탕으로 NPMC가 pMCMC를 뛰어나게 성능을 발휘함을 보여준다. 방법은 반복적 중요도 샘플링과 비선형 가중치 변환을 통해 고차원 공간에서의 열악한 성능 문제를 완화하며, 순차적 몬테카를로를 통한 가능도 근사화에 기반한 점근적 수렴 분석을 통해 안정성을 입증한다.

ABSTRACT

In this paper we address the problem of Monte Carlo approximation of posterior probability distributions in stochastic kinetic models (SKMs). SKMs are multivariate Markov jump processes that model the interactions among species in biochemical systems according to a set of uncertain parameters. Markov chain Monte Carlo (MCMC) methods have been typically preferred for this Bayesian inference problem. Specifically, the particle MCMC (pMCMC) method has been recently shown to be an effective, while computationally demanding, method applicable to this problem. Within the pMCMC framework, importance sampling (IS) has been used only as the basis of the sequential Monte Carlo (SMC) approximation of the acceptance ratio in the Metropolis-Hastings kernel. However, the recently proposed nonlinear population Monte Carlo (NPMC) algorithm, based on an iterative IS scheme, has also been shown to be effective as a Bayesian inference tool for low dimensional (predator-prey) SKMs. In this paper, we provide an extensive performance comparison of pMCMC versus NPMC, when applied to the challenging prokaryotic autoregulatory network. We show how the NPMC method can greatly outperform the pMCMC algorithm in this scenario, with an overall moderate computational effort. We complement the numerical comparison of the two techniques with an asymptotic convergence analysis of the nonlinear IS scheme at the core of the proposed method when the importance weights can only be computed approximately.

연구 동기 및 목표

• 고차원 스토케스틱 키네틱 모델(SKMs)에서 잠재 인구와 불확실한 파라미터를 가진 경우의 베이지안 추론 과제를 해결하기 위해.
• 스토케스틱 키네틱 모델(SKMs)의 사후 분포 추정에 있어 비선형 인구 몬테카를로(NPMC)와 입자 MCMC(pMCMC)의 성능을 비교하기 위해.
• 순차적 몬테카를로를 통해 가능도가 근사화될 경우 비선형 중요도 샘플링의 점근적 수렴성을 분석하기 위해.
• 다양한 관측 모델과 차원 수에서 복잡한 고세균 자율 조절 네트워크에서 두 방법의 성능을 평가하기 위해.

제안 방법

• NPMC는 고차원 공간에서의 열악한 성능 문제를 줄이기 위해 중요도 가중치의 비선형 변환(온도 조절 및 클리핑)을 적용한 반복적 중요도 샘플링을 사용한다.
• 이 방법은 잠재 인구의 사후 분포를 근사하기 위해 순차적 몬테카를로(SMC)를 활용하며, 이를 바탕으로 파라미터 추론을 위한 중요도 가중치를 계산한다.
• 비선형 가중치 변환은 가중치 분산을 부드럽게 하여 샘플링 효율성을 향상시키고, 표준 PMC 대비 필요한 입자 수를 감소시킨다.
• 복잡한 고차원 목표 분포를 모델링하기 위해 혼합형 PMC(MPMC)와 결합하여 다중 정규분포 또는 t-분포 혼합 모델을 사용한다.
• 가능도가 근사화된 조건 하에서 비선형 IS 체계의 점근적 수렴 분석을 유도하였으며, 입자 수 $ J $에 대해 오차 한계가 $ J^{-\frac{1}{2}+\epsilon} $ 의 속도로 감소함을 보였다.
• 정확한 가능도와 근사 가능도 간의 차이에 대한 이론적 경계를 설정하였으며, 가능도 곱의 오차가 거의 확실히 $ \mathcal{O}(J^{-\frac{1}{2}+\epsilon}) $ 임을 증명하였다.

실험 결과

연구 질문

• RQ1 비선형 인구 몬테카를로(NPMC)가 스토케스틱 키네틱 모델에서 베이지안 추론에 있어 추정 정확도와 계산 효율성 측면에서 입자 MCMC(pMCMC)를 능가하는가?
• RQ2 고세균 자율 조절 네트워크에서 모델 차원과 관측 노이즈 증가에 따라 NPMC의 성능은 어떻게 변화하는가?
• RQ3 순차적 몬테카를로를 통해 가능도를 근사화할 경우, NPMC의 비선형 IS 체계에서의 수렴성과 정확도에 어떤 영향을 미치는가?
• RQ4 비선형 가중치 변환은 표준 PMC 대비 고차원 SKMs에서의 열악한 성능 문제를 효과적으로 완화하는가?
• RQ5 중요도 가중치가 근사적으로 계산될 경우 NPMC의 수렴성에 대해 어떤 이론적 보장을 제공할 수 있는가?

주요 결과

• NPMC는 고세균 자율 조절 네트워크에서 pMCMC를 뛰어넘는 성능을 보이며, 계산 비용을 크게 감소시키면서도 더 높은 추정 정확도를 달성한다.
• 비선형 가중치 변환 덕분에 NPMC는 열악한 성능 문제를 줄여 사후 분포 추정의 수렴성과 분산을 향상시킨다.
• NPMC에서 가능도 근사화의 점근적 오차 한계는 $ \mathcal{O}(J^{-\frac{1}{2}+\epsilon}) $ 의 속도로 감소하며, 이는 근사화 조건 하에서도 안정성을 입증한다.
• 수렴 분석 결과, 가능도 곱의 오차는 입자 수가 증가함에 따라 유한하고 사라지며, 가능도가 SMC를 통해 추정되더라도 여전히 유지된다.
• 수치적 결과는 NPMC가 낮은 차원과 높은 차원 모두에서 pMCMC보다 더 정확한 사후 분포 추정을 제공하며, 반복 횟수와 계산 부하를 낮춘다는 것을 보여준다.
• NPMC와 MPMC의 조합은 복잡한 사후 분포를 t-분포 혼합 모델로 모델링함으로써 고차원 SKMs에서 효과적인 추론을 가능하게 한다.