[论文解读] A Conceptual Introduction to Markov Chain Monte Carlo Methods

Joshua S. Speagle|arXiv (Cornell University)|Sep 26, 2019

Markov Chains and Monte Carlo Methods参考文献 3被引用 52

一句话总结

基础性、概念驱动的贝叶斯推断概览，以及 MCMC 方法如何估计后验分布，含网格基近似和实践考量。

ABSTRACT

Markov Chain Monte Carlo (MCMC) methods have become a cornerstone of many modern scientific analyses by providing a straightforward approach to numerically estimate uncertainties in the parameters of a model using a sequence of random samples. This article provides a basic introduction to MCMC methods by establishing a strong conceptual understanding of what problems MCMC methods are trying to solve, why we want to use them, and how they work in theory and in practice. To develop these concepts, I outline the foundations of Bayesian inference, discuss how posterior distributions are used in practice, explore basic approaches to estimate posterior-based quantities, and derive their link to Monte Carlo sampling and MCMC. Using a simple toy problem, I then demonstrate how these concepts can be used to understand the benefits and drawbacks of various MCMC approaches. Exercises designed to highlight various concepts are also included throughout the article.

研究动机与目标

• 解释 MCMC 在贝叶斯推断中旨在解决的问题。
• 阐明先验、似然和证据如何结合形成后验。
• 说明后验积分如何从网格近似到蒙特卡洛思想的近似。
• 讨论 MCMC 方法在实践中的优点、缺点和挑战。
• 提供一个玩具示例以突出概念并进行练习式理解。

提出的方法

• 给出贝叶斯定理以及先验、似然、证据与后验之间的关系。
• 定义并关联后验、证据和未归一化的后验。
• 描述后验如何用于积分、边际化和期望值。
• 介绍对后验积分的网格近似并推导其与蒙特卡洛采样的联系。
• 讨论网格方法中的维度灾难和有效样本量。
• 用一个玩具温度示例来说明概念以及如何比较建模选择。

实验结果

研究问题

• RQ1 MCMC 方法在贝叶斯推断中试图解决哪些问题？
• RQ2 先验、似然和证据如何结合形成后验分布？
• RQ3 如何近似后验积分，这与蒙特卡洛采样有何关系？
• RQ4 MCMC 方法的优点和缺点是什么，会出现哪些实际挑战？
• RQ5 基于网格的方法如何为后验计算提供动机，并与蒙特卡洛技术进行对比？

主要发现

• 贝叶斯推断通过将先验信息与数据通过似然结合，形成后验，且由证据进行归一化。
• 后验期望和积分通常比后验本身对推断更为重要。
• 网格近似展示了后验积分并激发了蒙特卡洛方法，同时也凸显了维度灾难和有效样本量等问题。
• 证据（边际似然）需要对参数空间对未归一化的后验进行积分。
• 基于后验的量，如预测分布和模型比较（贝叶斯因子）依赖于对后验或未归一化后验的积分。
• 一个玩具示例展示了先验、似然和后验计算在决策制定和不确定性量化中的实际用途。