[論文レビュー] Comparing methods addressing multi-collinearity when developing prediction models

Artuur Leeuwenberg, Maarten van Smeden+6 more|arXiv (Cornell University)|Jan 5, 2021

Artificial Intelligence in Healthcare and Education被引用数 4

ひとこと要約

本研究では、臨床予測モデル開発における多重共線性の対処法を比較し、罰則法（Lasso、Ridge、Elastic Net）、次元削減（PCA）、制約付き最適化（ドロップアウト、PCM）の効果を評価した。多重共線性は予測性能に影響を及ぼさなかったが、係数の安定性には深刻な影響を及えた。特にLassoでは、共線性に起因する不安定性により予測子選択のばらつきが著しく顕著であった。

ABSTRACT

Clinical prediction models are developed widely across medical disciplines. When predictors in such models are highly collinear, unexpected or spurious predictor-outcome associations may occur, thereby potentially reducing face-validity and explainability of the prediction model. Collinearity can be dealt with by exclusion of collinear predictors, but when there is no a priori motivation (besides collinearity) to include or exclude specific predictors, such an approach is arbitrary and possibly inappropriate. We compare different methods to address collinearity, including shrinkage, dimensionality reduction, and constrained optimization. The effectiveness of these methods is illustrated via simulations. In the conducted simulations, no effect of collinearity was observed on predictive outcomes. However, a negative effect of collinearity on the stability of predictor selection was found, affecting all compared methods, but in particular methods that perform strong predictor selection (e.g., Lasso).}

研究の動機と目的

• 臨床予測モデルにおける多重共線性が予測性能および係数の安定性に与える影響を評価すること。
• 罰則法（Lasso、Ridge、Elastic Net）、次元削減（PCA）、制約付き最適化（ドロップアウト、PCM）の複数の手法が多重共線性をどのように是正できるかを比較すること。
• 多重共線性がモデルのキャリブレーション、区別能、または予測子選択の安定性に影響を及えるかどうかを評価すること。
• 高次元かつ相関の高い予測子環境下で、Lassoのような強力な予測子選択手法が共線性の影響を過剰に受けるかどうかを検討すること。
• 多重共線性下での堅牢なモデル開発のための手法選択に根拠を提供すること。

提案手法

• 実際の放射線療法合併症データ（NTCPモデル）に基づくシミュレートデータを用い、1000例の患者と20個の予測子を含み、線量体積パラメータ間に高い対間相関（r > 0.8）を有する。
• 5つの手法を適用：標準ロジスティック回帰（LR）、Lasso、Ridge、Elastic Net、主成分分析（PCA）、および事前知識を用いて係数を制約する新規手法（PCM）。
• 各シミュレーションで1000回のブートストラップ再標本を用い、各手法における係数推定値および予測子選択の安定性を評価した。
• C統計（区別能）、ブレアスコア（キャリブレーション）、および係数の安定性（ブートストラップ標本間での推定係数の分散）を用いて性能を評価した。
• ニューラルネットワークベースのモデルにおける係数の共適応を軽減するためドロップアウト正則化を適用したが、結果は主にロジスティック回帰および罰則付き手法に限定された。
• 交差検証を用いてハイパーパrameter（例：Lassoのlambda、Elastic Netのalpha）をチューニングし、各手法間の公平な比較を確保した。

実験結果

リサーチクエスチョン

• RQ1 多重共線性は臨床予測モデルの予測性能（区別能およびキャリブレーション）に顕著な影響を及えるか？
• RQ2 多重共線性は、さまざまなモデリング手法における係数推定値および予測子選択の安定性にどのように影響を及えるか？
• RQ3 罰則法、次元削減、制約付き最適化のうち、どの手法が高次元の多重共線性下でもモデルの安定性と予測精度を最もよく維持するか？
• RQ4 Lasso手法は、その縮小特性にもかかわらず、予測子が高次元で強く共線性を示す状況下で、予測子選択の不安定性が増加するか？
• RQ5 臨床的知識（PCMを介して）を統合することで、純粋にデータ駆動の手法に比べ、モデルの安定性が向上し、多重共線性の影響が軽減されるか？

主な発見

• 多重共線性は予測性能に顕著な影響を及ぼさなかった：C統計およびブレアスコアは、標準ロジスティック回帰を含むすべての手法で同等であった。
• 予測性能が安定しているにもかかわらず、多重共線性は係数の安定性を著しく低下させた。特にLassoのような強力な予測子選択に依存する手法では、ブートストラップ標本間で選択された予測子のばらつきが顕著に高まった。
• Lassoは、予測子選択において最も高い不安定性を示し、予測子が強く相関していても、ブートストラップ標本間で保持される予測子が大きく変動した。
• RidgeおよびElastic Netは、共線性のある予測子に対してグループ効果を示すため、係数推定値の分散が低く、より安定した結果を示した。
• PCAに基づくモデルは中程度の安定性を示したが、臨床的意味が明確でない変換された成分を導入するため、解釈性が低くなる傾向があった。
• 事前知識を係数制約に組み込むPCM手法は、純粋にデータ駆動の手法に比べ、特に高共線性環境下で係数推定値の分散を低減し、安定性を向上させた。