[论文解读] Bayesian Computing with INLA: A Review

Håvard Rue, Andrea Riebler+4 more|arXiv (Cornell University)|Apr 4, 2016

Statistical Methods and Bayesian Inference参考文献 71被引用 6

一句话总结

本文综述了集成嵌套拉普拉斯近似（INLA）方法，该方法可实现潜变量高斯模型（LGMs）的快速、精确贝叶斯推断，利用嵌套拉普拉斯近似和稀疏矩阵计算。INLA 提供确定性的、近乎精确的后验近似，其计算速度比 MCMC 快几个数量级，同时保持高精度，因此特别适合应用贝叶斯统计。

ABSTRACT

The key operation in Bayesian inference, is to compute high-dimensional integrals. An old approximate technique is the Laplace method or approximation, which dates back to Pierre- Simon Laplace (1774). This simple idea approximates the integrand with a second order Taylor expansion around the mode and computes the integral analytically. By developing a nested version of this classical idea, combined with modern numerical techniques for sparse matrices, we obtain the approach of Integrated Nested Laplace Approximations (INLA) to do approximate Bayesian inference for latent Gaussian models (LGMs). LGMs represent an important model-abstraction for Bayesian inference and include a large proportion of the statistical models used today. In this review, we will discuss the reasons for the success of the INLA-approach, the R-INLA package, why it is so accurate, why the approximations are very quick to compute and why LGMs make such a useful concept for Bayesian computing.

研究动机与目标

• 提出 INLA 作为潜变量高斯模型（LGMs）中 MCMC 的可扩展、确定性替代方法。
• 解释尽管 INLA 是一种近似方法，为何在实践中其速度和精度均优于 MCMC。
• 强调稀疏矩阵技术与嵌套拉普拉斯近似在实现高效计算中的作用。
• 通过流行病学、生态学、遗传学和环境科学等真实世界案例，展示 INLA 的广泛应用性。
• 倡导 INLA 作为一种实用、用户友好的工具，支持应用统计中迭代建模过程。

提出的方法

• 使用嵌套拉普拉斯近似来近似潜变量高斯模型中贝叶斯推断的高维积分。
• 在后验分布众数处进行二阶泰勒展开，以解析方式计算积分。
• 采用稀疏矩阵算法，高效处理潜变量高斯模型中产生的大型稀疏精度矩阵。
• 构建潜变量高斯效应和超参数后验分布的确定性近似。
• 通过数值积分对超参数进行积分，同时以联合后验众数为条件。
• 利用 R-INLA 软件包为真实数据应用 INLA 提供用户友好的接口。

实验结果

研究问题

• RQ1 为何 INLA 在保持高精度的同时，其计算速度显著快于 MCMC？
• RQ2 嵌套拉普拉斯近似与稀疏矩阵技术如何在潜变量高斯模型中实现高效计算？
• RQ3 哪些类型的统计模型属于 LGM 框架？为何该类模型具有如此广泛的应用性？
• RQ4 INLA 在应用统计中如何支持迭代建模过程？
• RQ5 如何将 INLA 扩展或与其他模型（如含缺失数据或复杂空间点过程的模型）结合？

主要发现

• INLA 为 LGM 提供近乎精确的后验近似，计算时间比 MCMC 快几个数量级。
• 该方法通过结合嵌套拉普拉斯近似与高效的稀疏矩阵求解器，实现高精度。
• R-INLA 已成为应用科学中广泛采用的工具，其在疾病地图绘制、环境健康、遗传学和生态学等领域已有大量应用记录。
• INLA 支持通过惩罚复杂性（PC）先验自动构建默认先验，实现稳健且可解释的模型设定。
• 该方法使复杂模型（如空间模型、时空模型和层次模型）的实用贝叶斯推断成为可能。
• INLA 支持敏感性分析与模型检验，包括先验敏感性测试，并支持高级模型如网络元分析和自回归过程。