[论文解读] Generalised Linear Mixed Model Specification, Analysis, Fitting, and Optimal Design in R with the glmmr Packages

Sam Watson|arXiv (Cornell University)|Mar 22, 2023

Optimal Experimental Design MethodsDecision Sciences被引用 3

一句话总结

本文介绍了 R 包 glmmrBase 和 glmmrOptim，提供了一个灵活的面向对象框架，用于使用马尔可夫链蒙特卡洛最大似然法（MCML）、拉普拉斯近似和哈密顿蒙特卡洛方法，指定、拟合并分析广义线性混合模型（GLMMs）。其主要贡献是一个统一且可扩展的系统，支持复杂的协方差结构、非线性均值函数以及 c-最优实验设计，具备基准性能和与 lme4 和 glmmTMB 等成熟包相当的准确参数估计。

ABSTRACT

We describe the \proglang{R} package \pkg{glmmrBase} and an extension \pkg{glmmrOptim}. \pkg{glmmrBase} provides a flexible approach to specifying, fitting, and analysing generalised linear mixed models. We use an object-orientated class system within \proglang{R} to provide methods for a wide range of covariance and mean functions, including specification of non-linear functions of data and parameters, relevant to multiple applications including cluster randomised trials, cohort studies, spatial and spatio-temporal modelling, and split-plot designs. The class generates relevant matrices and statistics and a wide range of methods including full likelihood estimation of generalised linear mixed models using stochastic Maximum Likelihood, Laplace approximation, power calculation, and access to relevant calculations. The class also includes Hamiltonian Monte Carlo simulation of random effects, sparse matrix methods, and other functionality to support efficient estimation. The \pkg{glmmrOptim} package implements a set of algorithms to identify c-optimal experimental designs where observations are correlated and can be specified using the generalised linear mixed model classes. Several examples and comparisons to existing packages are provided to illustrate use of the packages.

研究动机与目标

• 为解决现有 GLMM 软件中的碎片化问题，即用户通常需要多个接口不一致的包才能完成单一分析。
• 开发一个统一且可扩展的 R 框架，支持复杂的 GLMM 规范，包括数据和参数的非线性函数。
• 通过 MCML、拉普拉斯近似和哈密顿蒙特卡洛方法实现高效估计，支持稀疏矩阵和高性能 C++ 后端。
• 利用 GLMM 框架实现相关观测的 c-最优实验设计。
• 提供一致的面向对象接口，使用 R6 类，支持多个模型之间共享协方差和均值结构。

提出的方法

• glmmrBase 包使用 R6 的面向对象系统实现 Model 类，封装了固定效应和随机效应、连接函数以及分布族等模型组件。
• 该框架支持用户自定义的非线性函数，用于线性预测器和协方差结构，从而能够灵活建模聚类、队列、空间和时空数据。
• 模型拟合通过拉普拉斯近似获得初始参数估计，随后使用马尔可夫链蒙特卡洛最大似然法（MCML）结合哈密顿蒙特卡洛进行后验抽样。
• 该系统利用 Matrix 包进行稀疏矩阵运算，并集成 C++ 代码以加速关键计算。
• glmmrOptim 包扩展了该框架，用于计算具有相关观测的实验的 c-最优设计，利用 GLMM 结构识别最优观测分配。
• 实现包括完整似然估计、标准误计算（稳健和偏差校正）以及统计功效计算的方法。

Figure 1: Illustrative example of formula parsing and calculation including autodifferention with respect to parameter \code b_1

实验结果

研究问题

• RQ1 如何在 R 中设计一个统一且可扩展的框架，以支持跨多样化应用场景的复杂 GLMM 规范，包括数据和参数的非线性函数？
• RQ2 在模块化、面向对象的 R/C++ 系统中实现 MCML 和拉普拉斯近似方法时，其性能和准确性如何？
• RQ3 是否可以使用相同的 GLMM 框架推导出相关观测的 c-最优实验设计，其与现有设计方法相比表现如何？
• RQ4 在模拟设置中，glmmrBase 包的参数估计和标准误与 lme4 和 glmmTMB 等成熟包相比如何？
• RQ5 glmmrBase 的面向对象设计在 GLMM 基础的统计工作流中，对代码重用、模块化和可扩展性有多大促进作用？

主要发现

• 使用 MCML 和拉普拉斯近似方法的 glmmrMCML 参数估计值与 lme4 和 glmmTMB 的估计值相差不超过 0.01，表明其具有高度准确性。
• glmmrMCML 实现的参数估计与参考方法一致，所有测试参数的标准误差异小于 0.02。
• 结合牛顿-拉夫森和 BOBYQA 优化方法的拉普拉斯近似为 MCML 提供了稳定的初始值，减少了收敛问题。
• glmmrOptim 包成功计算了相关观测的 c-最优设计，实现了在复杂场景下的高效实验规划。
• 模型拟合时间差异显著：MCNR 耗时 7.4 秒，而使用 BOBYQA 的 MCEM 将时间缩短至 0.36 秒，表明优化选择对效率有显著影响。
• 面向对象设计使得多个模型之间可共享协方差和均值结构，提升了代码可维护性并减少了冗余。