[论文解读] Extending INLA to a class of near-Gaussian latent models

Thiago G. Martins, Rue, Håvard|arXiv (Cornell University)|Oct 4, 2012

Gaussian Processes and Bayesian Inference参考文献 11被引用 7

一句话总结

本文通过将非高斯潜变量分量近似为高斯分布，并引入定制的校正项来修正似然函数，将集成嵌套拉普拉斯近似（INLA）方法扩展至近高斯潜变量模型。该方法实现了对具有非高斯随机效应（如伽马脆弱性或学生t分布）的模型的快速、精确的贝叶斯推断，计算时间仅为MCMC方法的极小部分，同时达到MCMC级别的精度。

ABSTRACT

This work extends the Integrated Nested Laplace Approximation (INLA) method to latent models outside the scope of latent Gaussian models, where independent components of the latent field can have a near-Gaussian distribution. The proposed methodology is an essential component of a bigger project that aim to extend the R package INLA (R-INLA) in order to allow the user to add flexibility and challenge the Gaussian assumptions of some of the model components in a straightforward and intuitive way. Our approach is applied to two examples and the results are compared with that obtained by Markov Chain Monte Carlo (MCMC), showing similar accuracy with only a small fraction of computational time. Implementation of the proposed extension is available in the R-INLA package.

研究动机与目标

• 将INLA框架从潜高斯模型扩展至包含近高斯分布潜变量分量的模型。
• 为具有非高斯潜变量效应（如学生t分布或伽马分布随机效应）的模型提供一种计算高效的MCMC替代方法。
• 通过允许用户灵活地在潜变量分量中挑战高斯假设，扩展R-INLA中的模型适用性。
• 在保持INLA的精度与速度的同时，容纳能够校正偏度与峰度的分布。
• 实现对复杂模型（如具有伽马脆弱性的生存模型和稳健混合效应模型）的实际拟合。

提出的方法

• 通过高斯分布近似非高斯潜变量分量，以保持INLA的核心结构。
• 在似然函数中引入校正项，以补偿潜变量场中偏离正态性的部分。
• 通过在响应向量中引入一个“伪造的观测”分量，将校正项嵌入似然函数。
• 通过设置低精度（例如，精度 = exp(-5)）的“独立同分布”随机效应来建模非高斯潜变量分量，以稳定近似效果。
• 利用现有的INLA基础设施（包括拉普拉斯近似和后验边际计算），同时针对新的似然结构进行适应性调整。
• 确保与INLA现有精度诊断工具和控制机制的兼容性。

实验结果

研究问题

• RQ1 INLA能否被扩展以处理某些分量为非高斯但接近高斯的潜变量模型（如学生t分布或对数伽马分布）？
• RQ2 在潜变量分量偏离正态性时，如何对INLA中的高斯近似进行校正以保持精度？
• RQ3 所提出的方法是否在显著减少计算时间的同时，达到与MCMC相当的精度，适用于非高斯潜变量模型？
• RQ4 该方法能否在R-INLA包中以用户友好的方式实现，以支持实际的模型扩展？
• RQ5 该方法在对数凹与非对数凹似然函数下的计算性能与数值稳定性如何？

主要发现

• 所提出的扩展方法可实现对近高斯潜变量模型的精确贝叶斯推断，包括具有伽马脆弱性的生存模型和具有学生t分布随机效应的稳健混合效应模型。
• 与长时间的MCMC运行相比，扩展INLA方法产生的后验边际分布和汇总统计量高度准确，尤其在尾部概率估计方面表现优异。
• 该方法在极短的计算时间内实现了与MCMC相当的精度，展现出显著的速度优势。
• 该方法与INLA现有的精度评估工具（如后验预测检查和收敛性诊断）保持兼容。
• 即使在非对数凹似然函数（如学生t混合模型）下，该方法仍表现良好，表明其对复杂分布形式具有鲁棒性。
• 该扩展已实际集成至R-INLA包中，并提供了示例代码，便于在生存分析和稳健混合效应建模中的实际应用。