[논문 리뷰] A Conceptual Introduction to Markov Chain Monte Carlo Methods

Joshua S. Speagle|arXiv (Cornell University)|2019. 09. 26.

Markov Chains and Monte Carlo Methods참고 문헌 3인용 수 52

한 줄 요약

베이지안 추론에 대한 기본적이고 개념 주도적인 개요와 MCMC 방법이 후방 분포를 어떻게 추정하는지, 격자 기반 근사와 실용적 고려를 포함한다.

ABSTRACT

Markov Chain Monte Carlo (MCMC) methods have become a cornerstone of many modern scientific analyses by providing a straightforward approach to numerically estimate uncertainties in the parameters of a model using a sequence of random samples. This article provides a basic introduction to MCMC methods by establishing a strong conceptual understanding of what problems MCMC methods are trying to solve, why we want to use them, and how they work in theory and in practice. To develop these concepts, I outline the foundations of Bayesian inference, discuss how posterior distributions are used in practice, explore basic approaches to estimate posterior-based quantities, and derive their link to Monte Carlo sampling and MCMC. Using a simple toy problem, I then demonstrate how these concepts can be used to understand the benefits and drawbacks of various MCMC approaches. Exercises designed to highlight various concepts are also included throughout the article.

연구 동기 및 목표

• MCMC가 베이지안 추론에서 해결하려는 문제를 설명한다.
• 사전분포(priors), 가능도(likelihoods), 증거(evidence)가 어떻게 결합되어 후방(포스트리오)을 형성하는지 명확히 한다.
• 그리드에서 몬테카를로 아이디어에 이르는 경로로, 사후적분이 어떻게 근사되는지 설명한다.
• 실무에서의 MCMC 방법의 이점, 단점 및 도전에 대해 논의한다.
• 개념을 강조하고 연습 기반의 이해를 돕기 위한 토이 예제를 제공한다.

제안 방법

• 베이즈 정리와 사전분포, 가능도, 증거, 그리고 사후분포 사이의 관계를 제시한다.
• 사후분포, 증거, 그리고 비정규화된 사후분포를 정의하고 서로 연관시키다.
• 사후분포가 적분, 주변화, 기대치를 위해 어떻게 사용되는지 설명한다.
• 사후적분의 격자 기반 근사를 소개하고 몬테카를로 샘플링과의 연결 고리를 도출한다.
• 격자 방법에서 차원의 저주와 유효 샘플 크기(ESS)에 대해 논의한다.
• 개념을 설명하고 모델링 선택을 비교하는 데 사용되는 간단한 온도 예제를 사용한다.

실험 결과

연구 질문

• RQ1 MCMC 방법이 베이지안 추론에서 해결하려고 하는 문제는 무엇인가?
• RQ2 사전분포, 가능도, 증거가 모여 어떻게 사후분포를 형성하는가?
• RQ3 사후적분은 어떻게 근사될 수 있으며, 이것이 몬테카를로 샘플링과 어떻게 연결되는가?
• RQ4 MCMC 방법의 이점과 단점은 무엇이며, 어떤 실무적 문제가 발생하는가?
• RQ5 격자 기반 접근 방법이 사후 계산에서 몬테카를로 기법을 어떻게 동기화하고 대조되는가?

주요 결과

• 베이지언 추론은 사전 정보와 데이터를 가능도를 통해 결합하여 사후분포를 형성하고, 증거로 정규화된다.
• 사후 기대값과 적분은 종종 사후분포 자체보다 추론에 더 중요하다.
• 격자 기반 근사는 사후적분을 시연하고 몬테카를로 방법을 고무하며, 차원의 저주와 유효 샘플 크기 같은 문제를 강조한다.
• 증거(주변 가능도)는 매개변수 공간에서 비정규화된 사후분포를 적분해야 한다.
• 사후 기반 양은 사후분포나 비정규화된 사후분포에 대한 적분에 의존한다.
• 간단한 예제는 의사결정 및 불확실성 정량화를 위한 사전, 가능도, 및 사후 계산의 실제 활용을 보여준다.