[논문 리뷰] Approximations of Markov Chains and Bayesian Inference

James E. Johndrow, Jonathan C. Mattingly외 2명|arXiv (Cornell University)|2015. 08. 13.

Markov Chains and Monte Carlo Methods참고 문헌 62인용 수 23

한 줄 요약

이 논문은 계산 자원 제약 하에서 MCMC 알고리즘에서 어느 정도의 근사가 수용 가능하고, 그 정도가 estimation 정확도를 최적화하는 데 기여하는지 평가하기 위한 이론적 프레임워크를 제안한다. 커널 근사 오차와 에르고딕성 분석을 통해 주어진 이질성 측도와 예산 하에서 근사된 MCMC 체인이 최적 성능을 달성할 수 있는 조건을 수립한다.

ABSTRACT

The Markov Chain Monte Carlo method is the dominant paradigm for posterior computation in Bayesian analysis. It has long been common to control computation time by making approximations to the Markov transition kernel. Comparatively little attention has been paid to convergence and estimation error in these approximating Markov Chains. We propose a framework for assessing when to use approximations in MCMC algorithms, and how much error in the transition kernel should be tolerated to obtain optimal estimation performance with respect to a specified discrepancy measure and computational budget. The results require only ergodicity of the exact kernel and control of the kernel approximation accuracy. The theoretical framework is applied to approximations based on random subsets of data, low-rank approximations of Gaussian processes, and a novel approximating Markov chain for discrete mixture models.

연구 동기 및 목표

• 근사된 MCMC 알고리즘에서 수렴성과 추정 오차에 대한 체계적인 분석 부족 문제를 해결하기 위해.
• 마르코프 전이 커널을 근사할 때 계산 효율성과 추정 정확도 사이의 트레이드오���을 규명하기 위해.
• 고정된 계산 예산 하에서 성능을 최적화하는 데 적합한 근사 수준을 선택하는 원칙적인 기준을 제공하기 위해.
• 실제 적용 가능한 근사 기법들인 부분 데이터 샘플링, 저랭크 가우시안 프로세스, 이산 혼합 모델에 대한 신규 근사 체인으로 프레임워크를 확장하기 위해.

제안 방법

• 정확한 커널의 에르고딕성과 전이 커널에서의 유계 근사 오차에 기반한 이론적 프레임워크를 개발한다.
• 이질성 측도를 사용해 추정 오차를 정량화하고, 이를 커널 근사 정확도와 연결한다.
• 근사된 마르코프 체인이 진정한 사후분포에 가까운 분포로 수렴할 수 있는 조건을 도출한다.
• 세 가지 특정 근사 기법에 프레임워크를 적용한다: 데이터의 무작위 부분집합, 가우시안 프로세스의 저랭크 근사, 이산 혼합 모델을 위한 새로운 근사 체인.
• 커널 근사 정확도와 계산 예산에 따라 결정되는 추정 오차에 대한 이론적 경계를 수립한다.
• 이질성 측도를 근사 수준 최적화에 통합하여 정확도와 런타임 간의 균형을 이루도록 한다.

실험 결과

연구 질문

• RQ1 주어진 계산 예산 하에서 마르코프 전이 커널의 근사 수준이 어느 정도까지 허용 가능할 수 있으며, 그로 인해 추정 오차가 더 이상 수용 가능하지 않게 되는가?
• RQ2 커널 근사 오차는 베이지안 추론에서 MCMC 샘플러의 수렴성과 정확도에 어떤 영향을 미치는가?
• RQ3 모든 근사 기법에 적용 가능한 통합된 이론적 프레임워크를 개발하여 최적의 추정 성능을 보장할 수 있는가?
• RQ4 예를 들어 데이터 샘플링 또는 저랭크 근사와 같은 특정 근사 전략들이 제안된 프레임워크 하에서 어떻게 성능을 발휘하는가?

주요 결과

• 이 프레임워크는 근사 오차와 계산 비용을 균형 잡는 방식으로 근사된 MCMC 체인이 최적의 추정 성능을 달성할 수 있는 조건을 제공한다.
• 커널 근사 정확도와 이질성 측도에 기반한 추정 오차에 대한 이론적 경계가 유도되었으며, 이는 근사 수준을 체계적으로 선택하는 데 기여한다.
• 이 방법은 부분 데이터, 저랭크 가우시안 프로세스 근사, 이산 혼합 모델을 위한 새로운 체인과 같은 다양한 근사 기법에 적용 가능하다.
• 정확한 커널이 에르고딕성이 있고 근사 오차가 제어되는 한, 이 방법은 진정한 사후분포에 가까운 분포로 수렴함을 보장한다.
• 정확한 커널이 계산적으로 비용이 많이 들더라도, 이 프레임워크는 런타임과 추정 정확도 사이의 최적 트레이드오프를 가능하게 한다.
• 다양한 근사 유형에 대해 실증적 검증이 수행되었으며, 이론적 경계가 실질적으로 의미 있고 적용 가능하다는 것이 입증되었다.