[논문 리뷰] Accelerating delayed-acceptance Markov chain Monte Carlo algorithms

Samuel Wiqvist, Umberto Picchini외 3명|arXiv (Cornell University)|2018. 06. 15.

Markov Chains and Monte Carlo Methods참고 문헌 42인용 수 7

한 줄 요약

이 논문은 단순한 후보자 선별을 위해 대체 모델을 활용하여 두 번째 단계에서 비용이 많이 드는 우도 평가를 피하는, 지연 수용 MCMC의 근사 및 가속 버전인 ADA-MCMC를 제안한다. 이 방법은 단백질 접힘에 대한 확률적 미분 방정식 모델과 같은 계산 비용이 큰 설정에서 표준 DA-MCMC 대비 2–4배 빠른 성능을 보이며, 정확도는 정확한 방법과 유사하게 유지한다.

ABSTRACT

Delayed-acceptance Markov chain Monte Carlo (DA-MCMC) samples from a probability distribution via a two-stages version of the Metropolis-Hastings algorithm, by combining the target distribution with a "surrogate" (i.e. an approximate and computationally cheaper version) of said distribution. DA-MCMC accelerates MCMC sampling in complex applications, while still targeting the exact distribution. We design a computationally faster, albeit approximate, DA-MCMC algorithm. We consider parameter inference in a Bayesian setting where a surrogate likelihood function is introduced in the delayed-acceptance scheme. When the evaluation of the likelihood function is computationally intensive, our scheme produces a 2-4 times speed-up, compared to standard DA-MCMC. However, the acceleration is highly problem dependent. Inference results for the standard delayed-acceptance algorithm and our approximated version are similar, indicating that our algorithm can return reliable Bayesian inference. As a computationally intensive case study, we introduce a novel stochastic differential equation model for protein folding data.

연구 동기 및 목표

• 우도 평가가 계산적으로 비용이 많이 드는 경우, 특히 복잡한 모델을 사용한 베이지안 추론에서 MCMC 샘플링을 가속화하는 것.
• 근사화를 도입함에도 불구하고 신뢰할 수 있는 추론을 유지하는 표준 지연 수용 MCMC( DA-MCMC)의 더 빠른 대안을 개발하는 것.
• 단백질 접힘 데이터에 대한 새로운 확률적 미분 방정식 모델에서 본 방법의 효과성을 입증하는 것.
• 높은 비용의 우도 평가 상황에서 계산 속도와 추론 정확도 사이의 상호 교환 관계를 평가하는 것.
• 베이지안 추론을 초월하여 일반적으로 적용 가능한 근사 MCMC 프레임워크를 제공하는 것.

제안 방법

• 우도 대체 모델을 사용하여 비용이 많이 드는 우도 평가 이전에 후보자를 사전 선별하는 근사 두 단계 MCMC 알고리즘인 ADA-MCMC를 도입한다.
• 우도 대체 모델을 모델링하기 위해 가우시안 프로세스 회귀를 사용하여 로그우도 값의 빠른 근사치를 제공한다.
• 두 번째 단계에서 네 가지 경우에 따른 결정 규칙을 적용한다: 대체 기반 수용 확률이 높으면 즉시 수용, 낮으면 거부, 그 외의 경우 정확한 우도 평가를 실시한다.
• 상태공간 모델에서 정확한 우도 평가는 입자 필터를 사용하며, ADA-MCMC에서는 DA-MCMC보다 우도 평가 호출 빈도가 감소한다.
• 사전에 MCMC 실행을 통해 대체 모델을 훈련시키며, 이후 이 모델이 후보 수용 결정을 안내하는 데 사용된다.
• 지연 수용 프레임워크를 수정하여, 대체 모델의 신뢰도에 기반해 일부 경우에서 정확한 우도 평가 없이도 수용을 허용한다.

실험 결과

연구 질문

• RQ1 지연 수용 MCMC의 두 번째 단계에서 우도 평가를 근사화함으로써 MCMC 실행 시간을 크게 줄일 수 있는가?
• RQ2 ADA-MCMC의 근사화는 정확한 DA-MCMC에 비해 후행 추론 정확도에 어떤 영향을 미치는가?
• RQ3 ADA-MCMC가 상당한 속도 향상을 제공하는 상황는 언제이며, 대체 모델링의 오버헤드가 정당하지 않은 경우는 언제인가?
• RQ4 ADA-MCMC의 성능은 입자 무게 조정 메트로폴리스-해스팅스 및 마코프 체인 내 메트로폴리스와 같은 다른 MCMC 방법과 비교해 어떻게 되는가?
• RQ5 대체 모델이 후행 추정에서 심각한 편향을 유발하지 않으면서 얼마나 빠른 샘플링을 가능하게 할 수 있는가?

주요 결과

• 단백질 접힘 사례 연구에서 ADA-MCMC는 각 우도 평가에 2–10초가 소요되는 상황에서 표준 DA-MCMC 대비 2–4배 더 빠른 런타임을 달성했다.
• ADA-MCMC에서는 DA-MCMC 대비 입자 필터가 2~5배 적게 호출되었으며, 이는 직접적으로 속도 향상에 기여했다.
• ADA-MCMC의 추론 결과는 DA-MCMC 및 마코프 체인 내 메트로폴리스와 매우 유사하여 정확도 손실이 최소한이었다.
• 우도 평가가 빠른 경우는 거의 이점이 없었으며, 이는 본 방법의 가치가 문제에 따라 달라지며 고비용 설정에서 가장 효과적임을 확인했다.
• 단백질 접힘 모델에서 후보의 18.8%가 높은 대체 모델 신뢰도로 인해 우도 평가 없이 수용되었으며, 이는 대체 모델의 유용성을 뒷받침한다.
• 대체 모델의 품질이 핵심적이었으며, 낮은 품질의 대체 모델은 편향된 추론을 초래할 수 있어 신뢰할 수 있는 사전 모델링의 필요성을 강조한다.