[论文解读] An iterative algorithm for joint covariate and random effect selection in mixed effects models

Maud Delattre, Marie-Anne Poursat|arXiv (Cornell University)|Dec 7, 2016

Statistical Methods and Inference参考文献 21被引用 11

一句话总结

本文提出一种基于BIC型准则的分步迭代算法，用于非线性混合效应模型中固定效应与随机效应的联合选择，其惩罚项针对混合模型进行了定制。该方法通过同时识别显著协变量和最优随机效应结构，提升了模型的简洁性与可解释性，在药代动力学案例研究中表现优于现有模型，BIC值更低且复杂度更小。

ABSTRACT

We consider joint selection of fixed and random effects in general mixed-effects models. The interpretation of estimated mixed-effects models is challenging since changing the structure of one set of effects can lead to different choices of important covariates in the model. We propose a stepwise selection algorithm to perform simultaneous selection of the fixed and random effects. It is based on BIC-type criteria whose penalties are adapted to mixed-effects models. The proposed procedure performs model selection in both linear and nonlinear models. It should be used in the low-dimension setting where the number of covariates and the number of random effects are moderate with respect to the total number of observations. The performance of the algorithm is assessed via a simulation study, that includes also a comparative study with alternatives when available in the literature. The use of the method is illustrated in the clinical study of an antibiotic agent kinetics.

研究动机与目标

• 为解决在混合效应模型中同时选择相关固定效应与随机效应的挑战，其中模型结构的变化可能改变协变量的重要性。
• 开发一种在低维设置下实用且计算可行的方法，即协变量与随机效应的数量相对于样本量适中。
• 通过避免不必要的随机效应和相关结构，提升模型可解释性并减少过拟合。
• 提供一种基于BIC的筛选程序，既具有统计合理性，又在非线性混合模型中计算可行。
• 通过模拟和真实药代动力学数据的分析，证明该方法优于现有模型。

提出的方法

• 该算法采用从零模型开始的分步前向选择方法，基于BIC改进程度，迭代添加协变量和随机效应。
• 采用一种针对混合效应模型定制的BIC型准则，特别引入惩罚项 D × log(N)，其中 D 为参数空间的维度。
• 该过程最初将搜索限制在对角线随机效应协方差矩阵上以降低复杂度，随后在第二阶段探索相关性。
• 通过BIC进行模型比较，选择过程中以候选模型中BIC值最低者为依据。
• 该方法适用于线性和非线性混合效应模型，包括药代动力学建模中常用的非线性参数族。
• 该算法的实现方式避免了对所有模型的穷举搜索，即使在协变量与随机效应数量适中的情况下也具有可行性。

实验结果

研究问题

• RQ1 联合选择固定效应与随机效应是否能提升混合效应模型的可解释性并减少过拟合？
• RQ2 与现有方法相比，所提出的基于BIC的分步算法在选择准确性和计算效率方面表现如何？
• RQ3 在真实药代动力学数据中，简化随机效应结构在保持模型拟合度的同时，能在多大程度上降低BIC值？
• RQ4 引入显著协变量是否允许在不损失模型充分性的情况下减少随机效应的数量？
• RQ5 所提出的方法在药理学中常用的低维非线性混合效应模型中是否具有鲁棒性和实用性？

主要发现

• 所提算法在最终模型（model1）中达到BIC值1492.624，显著低于BIC值1643.676的Burdet等（2015）所选模型（model2）。
• model1仅包含三个随机效应且彼此间无相关性，而model2使用了完整的协方差矩阵，表明model1的结构更为简洁和简约。
• 最终模型（model1）为CL、V1、V2和Q引入了显著协变量，解释了个体间变异，从而可省略对Q的随机效应。
• model1中协变量的引入导致随机效应之间的相关系数为零，支持了该模型的简洁性与稳定性。
• 一个中间模型（model3）结合了model1的随机效应结构与model2的协变量，其BIC值为1513.123，仍高于model1，证实了model1的优越性。
• 模拟研究显示，该算法在选择准确性和计算时间方面与现有方法相比具有竞争力。