[논문 리뷰] Asymptotically Exact MCMC Algorithms via Local Approximations of Computationally Intensive Models

Patrick R. Conrad, Youssef Marzouk외 2명|arXiv (Cornell University)|2014. 02. 07.

Markov Chains and Monte Carlo Methods인용 수 11

한 줄 요약

이 논문은 계산 비용이 큰 베이지안 추론 문제에서 전방 모델 평가 횟수를 크게 줄이기 위해 메트로폴리스-해스팅스 커널 내부에 국소적 근사(예: 다항식 또는 가우시안 프로세스 모델)를 도입하는 새로운 MCMC 프레임워크를 제안한다. 이 방법은 진정한 사후분포로부터 점차적으로 정확한 표본을 추출함과 동시에, 미분방정식(ODE) 및 편미분방정식(PDE) 문제에서 수개의 주기수의 속도 향상을 달성한다.

ABSTRACT

We construct a new framework for accelerating Markov chain Monte Carlo in posterior sampling problems where standard methods are limited by the computational cost of the likelihood, or of numerical models embedded therein. Our approach introduces local approximations of these models into the Metropolis-Hastings kernel, borrowing ideas from deterministic approximation theory, optimization, and experimental design. Previous efforts at integrating approximate models into inference typically sacrifice either the sampler's exactness or efficiency; our work seeks to address these limitations by exploiting useful convergence characteristics of local approximations. We prove the ergodicity of our approximate Markov chain, showing that it samples asymptotically from the \emph{exact} posterior distribution of interest. We describe variations of the algorithm that employ either local polynomial approximations or local Gaussian process regressors. Our theoretical results reinforce the key observation underlying this paper: when the likelihood has some \emph{local} regularity, the number of model evaluations per MCMC step can be greatly reduced without biasing the Monte Carlo average. Numerical experiments demonstrate multiple order-of-magnitude reductions in the number of forward model evaluations used in representative ODE and PDE inference problems, with both synthetic and real data.

연구 동기 및 목표

• 우리가 평가하기에 비용이 많이 드는 가능도나 수치 모델을 사용할 때 MCMC 표본 추출의 계산적 병목 현상을 해결하기 위해.
• 각 MCMC 단계에서의 전방 모델 평가 횟수를 줄이면서도 정확한 사후분포 표본 추출을 유지하는 방법을 개발하기 위해.
• 이전의 근사 추론 방법들이 정확성 또는 효율성 중 하나를 포기하는 한계를 극복하기 위해.
• 가능도 함수의 국소적 규칙성 특성을 활용하여 MCMC 프레임워크 내에서 정확하고 저비용의 근사를 가능하게 하기 위해.

제안 방법

• 계산 비용이 큰 모델의 국소적 근사를 통합한 수정된 메트로폴리스-해스팅스 커널을 도입한다.
• 정확한 근사 이론을 활용하여 가능도 함수의 국소적 다항식 또는 가우시안 프로세스 회귀 모델을 구성한다.
• 제안 메커니즘을 이러한 국소적 근사에 의존하도록 설계하여 전체 모델 평가에 대한 의존도를 감소시킨다.
• 국소적 근사를 구축하기 위한 정보성 있는 점들을 선택하기 위해 실험 설계 원리를 활용한다.
• 유도된 마르코프 체인의 에르고딕성을 증명하여 점차적으로 진정한 사후분포로 수렴함을 보장한다.
• 국소 모델의 규칙성에 따라 근사 품질을 동적으로 조정하여 정확성과 효율성을 유지한다.

실험 결과

연구 질문

• RQ1 메트로폴리스-해스팅스 커널 내 국소적 근사가 계산 비용을 줄이면서도 사후 표본 추출의 정확성을 유지할 수 있는가?
• RQ2 전방 모델 평가 횟수는 근사 품질과 국소적 규칙성에 따라 어떻게 변화하는가?
• RQ3 다항식 또는 가우시안 프로세스와 같은 국소적 근사 중 정확성과 효율성 사이의 최적 균형을 이룰 수 있는 것은 무엇인가?
• RQ4 국소적 근사가 진정한 사후분포로의 에르고딕성과 수렴성을 유지하는 조건은 무엇인가?
• RQ5 편향을 도입하지 않고도 ODE 및 PDE 추론에서 상당한 속도 향상을 달성할 수 있는가?

주요 결과

• 제안된 MCMC 알고리즘은 국소적 근사를 사용함에도 불구하고 진정한 사후분포로부터 점차적으로 정확한 표본 추출을 달성한다.
• 합성 및 실데이터 ODE 및 PDE 추론 문제에서 전방 모델 평가 횟수를 수개의 주기수만큼 감소시킨다.
• 국소적 다항식 및 가우시안 프로세스 근사 모두 정확한 표본 추출을 유지하면서도 상당한 계산적 절감을 가능하게 한다.
• 마르코프 체인의 수렴 성질이 엄밀히 증명되어, 제안된 프레임워크 하에서 추정기의 유효성이 보장된다.
• 수치 실험 결과, 모델 평가 횟수가 크게 감소하더라도 몬테카를로 평균이 편향 없음을 확인하였다.