[论文解读] Comparing methods addressing multi-collinearity when developing prediction models

Artuur Leeuwenberg, Maarten van Smeden+6 more|arXiv (Cornell University)|Jan 5, 2021

Artificial Intelligence in Healthcare and Education被引用 4

一句话总结

本研究比较了在临床预测模型开发中处理多重共线性问题的方法，评估了惩罚法（Lasso、Ridge、Elastic Net）、降维法（PCA）以及约束优化法（dropout、PCM）的效果。尽管多重共线性未显著影响预测性能，但其严重损害了回归系数的稳定性，尤其在Lasso方法中表现明显，由于共线性引起的不稳定性，导致预测变量选择的变异性极高。

ABSTRACT

Clinical prediction models are developed widely across medical disciplines. When predictors in such models are highly collinear, unexpected or spurious predictor-outcome associations may occur, thereby potentially reducing face-validity and explainability of the prediction model. Collinearity can be dealt with by exclusion of collinear predictors, but when there is no a priori motivation (besides collinearity) to include or exclude specific predictors, such an approach is arbitrary and possibly inappropriate. We compare different methods to address collinearity, including shrinkage, dimensionality reduction, and constrained optimization. The effectiveness of these methods is illustrated via simulations. In the conducted simulations, no effect of collinearity was observed on predictive outcomes. However, a negative effect of collinearity on the stability of predictor selection was found, affecting all compared methods, but in particular methods that perform strong predictor selection (e.g., Lasso).}

研究动机与目标

• 评估多重共线性对临床预测模型预测性能和系数稳定性的影响。
• 比较多种方法——惩罚法（Lasso、Ridge、Elastic Net）、降维法（PCA）以及约束优化法（dropout、PCM）——在处理多重共线性方面的有效性。
• 评估多重共线性是否影响模型校准、区分度或预测变量选择的稳定性。
• 确定在高维、高度相关预测变量设定下，强预测变量选择方法（如Lasso）是否受到共线性的过度影响。
• 为在存在多重共线性情况下的稳健模型开发提供基于证据的方法选择指导。

提出的方法

• 基于真实放射治疗并发症数据（NTCP模型）生成模拟数据，包含1000名患者和20个预测变量，其中剂量体积参数之间存在较高的两两相关性（r > 0.8）。
• 应用五种方法：标准逻辑回归（LR）、Lasso、Ridge、Elastic Net、主成分分析（PCA），以及一种利用先验知识约束系数的新方法（PCM）。
• 每项模拟使用1000次自举重抽样，以评估各方法下回归系数估计和预测变量选择的稳定性。
• 通过C统计量（区分度）、Brier评分（校准度）以及回归系数稳定性（自举样本中估计系数的方差）评估性能。
• 对基于神经网络的模型应用dropout正则化以减少系数共适应现象，但结果主要限于逻辑回归和惩罚方法。
• 使用交叉验证调优超参数（如Lasso中的lambda，Elastic Net中的alpha），以确保各方法之间的公平比较。

实验结果

研究问题

• RQ1 多重共线性是否显著影响临床预测模型的预测性能（区分度与校准度）？
• RQ2 多重共线性如何影响不同建模方法下回归系数估计和预测变量选择的稳定性？
• RQ3 在高重共线性条件下，哪种方法——惩罚法、降维法还是约束优化法——最能保持模型稳定性与预测准确性？
• RQ4 尽管具有收缩特性，Lasso方法在预测变量高度共线时是否因预测变量选择的不稳定性而表现更差？
• RQ5 与纯数据驱动方法相比，通过PCM引入临床先验知识是否能改善模型稳定性并减轻多重共线性的影响？

主要发现

• 多重共线性未显著影响预测性能：所有方法的C统计量和Brier评分均相近，包括标准逻辑回归。
• 尽管预测性能稳定，多重共线性仍严重降低了回归系数的稳定性，尤其在依赖强预测变量选择的方法（如Lasso）中表现明显，其在自举样本中选择的预测变量具有极高方差。
• Lasso在预测变量选择方面表现出最高不稳定性，即使在预测变量高度相关的情况下，其在不同自举样本中保留的预测变量差异极大。
• Ridge和Elastic Net因对共线性预测变量具有分组效应，从而降低了系数估计的方差，表现出更好的稳定性。
• 基于PCA的模型表现出中等稳定性，但常导致解释性较差的模型，因为转换后的主成分缺乏明确的临床意义。
• PCM方法通过引入先验知识约束系数，相比纯数据驱动方法，显著提高了稳定性并降低了系数估计的方差，尤其在高共线性环境下表现更优。