[논문 리뷰] Scalable Inference for Markov Processes with Intractable Likelihoods

Jamie Owen, Darren J. Wilkinson외 1명|arXiv (Cornell University)|2014. 03. 26.

Markov Chains and Monte Carlo Methods참고 문헌 1인용 수 4

한 줄 요약

이 논문은 정확한 베이지안 추론을 가능하게 하기 위해 근사 베이지안 계산(ABC)과 입자 메트로폴리스-헤스팅스 마르코프 체인 몬테카를로(pMCMC)를 융합한 하이브리드 방법을 제안한다. 이는 이면이 불명확한 마르코프 과정에 대해 확장 가능한 정확한 추론을 가능하게 한다. 순차적 ABC를 사용해 근사 사후분포를 생성하고, 이를 통해 병렬 pMCMC 체인의 초기화 및 튜닝을 수행함으로써 수렴 속도를 향상시키고 혼합 성능을 개선하며, 병렬 하드웨어 환경에서 더 짧은 버닝 인이와 향상된 계산 효율성으로 정확한 추론을 달성한다.

ABSTRACT

Bayesian inference for Markov processes has become increasingly relevant in recent years. Problems of this type often have intractable likelihoods and prior knowledge about model rate parameters is often poor. Markov Chain Monte Carlo (MCMC) techniques can lead to exact inference in such models but in practice can suffer performance issues including long burn-in periods and poor mixing. On the other hand approximate Bayesian computation techniques can allow rapid exploration of a large parameter space but yield only approximate posterior distributions. Here we consider the combined use of approximate Bayesian computation (ABC) and MCMC techniques for improved computational efficiency while retaining exact inference on parallel hardware.

연구 동기 및 목표

• 이면이 불명확한 모델과 부족한 속도 파rameter에 대한 사전 지식이 있는 경우 pMCMC의 계산 비효율성을 해결하기 위해.
• 순차적 ABC로부터의 근사 사후 표본을 활용해 pMCMC의 장기 버닝 인 기간과 열악한 혼합 성능을 감소시키기 위해.
• ABC(빠른 탐색)와 pMCMC(정확한 샘플링)의 장점을 융합하여 병렬 하드웨어에서 확장 가능하고 정확한 베이지안 추론을 가능하게 하기 위해.
• 프리라이언드 없이 pMCMC 제안 분포를 자동으로 튜닝할 수 있는 강력하고 자동화된 방법을 제공하기 위해, ABC 표본을 초기화로 사용하기 위해.
• 세 가지 확률적 생화학 반응 모델, 특히 시간에 따라 변화하는 비율과 부분 관측이 있는 유전자 조절 모델에 대해 본 방법을 검증하기 위해.

제안 방법

• 순차적 ABC를 사용해 근사 사후분포에서 표본을 추출하고, 이를 pMCMC 초기화를 위한 제안 분포로 사용한다.
• ABC 사후 표본을 활용해 pMCMC 제안 분산과 입자 필터 크기를 튜닝하여 프리라이언드가 필요 없도록 한다.
• 서로 다른 ABC 사후 표본에서 초기화된 병행된 독립적인 pMCMC 체인을 병행 실행하여 수렴성과 혼합 성능을 향상시킨다.
• 보정 입자 필터를 사용한 입자 MCMC를 적용하여, 직접 방법을 통해 정확한 정방향 시뮬레이션을 사용해 속도 파rameter의 공동 사후분포에 대해 정확한 추론을 수행한다.
• ABC에서 '유사한' 시뮬레이션 데이터를 정의하기 위해 허용 오차 기반의 거리 함수 ρ(D, D*) ≤ ε를 사용하며, 최종 ABC 표본을 pMCMC 체인 초기화에 사용한다.
• 희소화와 수렴 진단을 적용하여 정확한 사후분포에서 신뢰할 수 있는 표본 추출을 보장한다.

실험 결과

연구 질문

• RQ1 ABC와 pMCMC를 융합함으로써 이면이 불명확한 마르코프 과정에 대한 베이지안 추론에서 계산 효율성을 향상시킬 수 있는가?
• RQ2 ABC 사후분포를 pMCMC 초기화에 사용하면 고차원 매개변수 공간에서 버닝 인 기간을 줄이고 혼합 성능을 향상시킬 수 있는가?
• RQ3 ABC 표본에서 초기화된 병행 pMCMC 체인은 더 빠른 수렴과 더 적은 튜닝 노력으로 정확한 추론을 달성할 수 있는가?
• RQ4 실제 세계의 확률적 생화학 반응 모델에서, 이 하이브리드 방법은 단독 ABC 또는 pMCMC와 비교해 사후 정확도와 계산 비용 측면에서 어떻게 성능을 내는가?
• RQ5 이 방법은 약한 사전분포, 부분 관측, 시간에 따라 변화하는 속도 파rameter를 가진 모델에 효과적으로 적용될 수 있는가?

주요 결과

• 하이브리드 ABC-pMCMC 접근법은 ABC 표본을 사용해 체인을 정류 분포 근처에 초기화함으로써 pMCMC의 버닝 인 기간을 크게 단축시켰다.
• ABC 사후분포에서 초기화된 독립적인 병행 pMCMC 체인들이 모두 동일한 목표 분포로 수렴함을 확인하여 정확한 사후분포에서의 신뢰할 수 있는 표본 추출을 입증했다.
• 이 방법으로부터 도출된 사후 추정치는 Golightly 등(2014)에서 보고한 바와 일치하여 추론의 정확성과 정확성을 검증했다.
• 최종 ABC 표본은 pMCMC 사후분포와著적으로 다름을 보여주어, pMCMC가 ABC 근사치를 정교화하고 정확한 추론을 제공한다는 것을 입증했다.
• 시간에 따라 변화하는 위험 함수와 관측되지 않은 종이 있는 유전자 조절 모델에서 정확한 추론이 가능했으며, 표준 pMCMC는 나쁜 초기화로 인해 어려움을 겪을 것이다.
• pMCMC의 튜닝 파ram터(제안 분산과 입자 수)는 ABC 표본을 사용해 효과적으로 설정되었고, 고비용의 프리라이언드가 필요 없어졌다.