[论文解读] gamboostLSS: An R Package for Model Building and Variable Selection in the GAMLSS Framework

Benjamin Hofner, Andreas Mayr+1 more|arXiv (Cornell University)|Jul 7, 2014

Land Use and Ecosystem Services被引用 12

一句话总结

本文介绍了 R 包 gamboostLSS，该包实现了广义可加模型位置、尺度与形态（GAMLSS）的分量式提升方法，支持对多个分布参数（如均值和方差）进行联合建模，具备自动变量选择与模型拟合功能。与传统的基于 AIC 的方法相比，该方法在高维设置下表现出更高的稳定性和可扩展性，这一点在印度儿童生长迟缓分析中得到了验证。

ABSTRACT

Generalized additive models for location, scale and shape (GAMLSS) are a flexible class of regression models that allow to model multiple parameters of a distribution function, such as the mean and the standard deviation, simultaneously. With the R package gamboostLSS, we provide a boosting method to fit these models. Variable selection and model choice are naturally available within this regularized regression framework. To introduce and illustrate the R package gamboostLSS and its infrastructure, we use a data set on stunted growth in India. In addition to the specification and application of the model itself, we present a variety of convenience functions, including methods for tuning parameter selection, prediction and visualization of results. The package gamboostLSS is available from CRAN (http://cran.r-project.org/package=gamboostLSS).

研究动机与目标

• 为解决在选择多个分布参数的不同预测变量时，基于 AIC 的变量选择在 GAMLSS 中的不稳定性问题。
• 为在传统后向拟合方法可能失效或计算成本过高的高维数据设置中，提供一种可扩展且稳定的 GAMLSS 拟合框架。
• 在统一的提升框架中自然整合变量选择、模型选择与正则化。
• 提供一个用户友好的 R 包，配备全面的调参、预测与可视化工具，用于 GAMLSS 结果分析。
• 通过一项关于印度儿童生长迟缓的真实案例研究，展示该方法在同时建模生长迟滞评分的均值与变异性的实用性。

提出的方法

• 使用分量式梯度提升方法，迭代拟合多个 GAMLSS 参数（如位置 μ、尺度 σ、形态）的可加预测变量，以优化所假设分布的对数似然。
• 采用带有收缩（步长 ν）和提前停止（mstop）的提升算法，以正则化模型复杂度并防止过拟合。
• 通过公式接口支持灵活的模型设定，允许为每个分布参数分别指定候选模型，使用命名列表形式。
• 与 mboost 包的基础设施集成，支持使用各种基学习器（如线性、平滑、随机效应）来处理不同类型的预测变量。
• 实现向量化或命名列表方法，为每个分布参数分别指定不同的超参数（如 mstop、nu），以实现定制化的提升行为。
• 提供内置函数用于调参选择、预测以及结果可视化，包括效应图与预测区间。

实验结果

研究问题

• RQ1 基于提升的 GAMLSS 估计是否能提供比基于 AIC 的方法更稳定的变量选择，尤其是在为多个分布参数选择不同预测变量时？
• RQ2 在传统 GAMLSS 拟合变得计算不可行的高维设置下，gamboostLSS 框架的性能如何？
• RQ3 gamboostLSS 在同时建模响应变量（如生长迟滞评分）的均值与方差的同时，能否有效选择每个参数的相关预测变量？
• RQ4 该包是否能够在统一的 GAMLSS 建模框架中支持复杂效应（如平滑效应、空间效应与随机效应）？
• RQ5 在模型准确性、变量选择一致性与计算效率方面，gamboostLSS 与 gamlss 包相比表现如何？

主要发现

• gamboostLSS 包成功实现了 GAMLSS 的提升方法，支持对多个分布参数（如 μ 与 σ）进行联合建模，并具备自动变量选择功能。
• 与基于 AIC 的方法相比，该方法在变量选择方面表现出更高的稳定性，尤其在不同分布参数依赖不同预测变量时更为显著。
• 该包支持灵活的模型设定，包括为每个分布参数分别指定公式，并允许为每个参数设置不同的超参数（如 mstop、nu）。
• 在印度儿童生长迟滞的案例研究中，gamboostLSS 成功建模了生长迟滞评分的期望值（μ）及其变异性（σ），并实现了个体化的预测区间。
• 该包提供了一套全面的工具，包括调参选择、预测与可视化功能，显著提升了应用研究人员的使用便利性。
• gamboostLSS 算法计算高效且可扩展至高维数据，在此类设置下克服了传统高斯-牛顿后向拟合方法的局限性。