[論文レビュー] plsRglm: Partial least squares linear and generalized linear regression for processing incomplete datasets by cross-validation and bootstrap techniques with R

Frédèric Bertrand, Myriam Maumy‐Bertrand|arXiv (Cornell University)|Oct 1, 2018

Spectroscopy and Chemometric Analyses参考文献 7被引用数 8

ひとこと要約

plsRglmパッケージは、欠損データを伴う線形モデルおよび一般化線形モデルにおける部分最小二乗回帰（PLS）の包括的なRソリューションを提供する。高度な交差検証およびブートストラップ手法を用いて、欠損データを効果的に処理する。モデル選択の堅牢性、$BC_a$信頼区間による予測変数の有意性評価、グラフィカルな診断を可能にし、主な貢献として欠損データ処理、PLSGLRへの拡張、高次元または共線性の高いデータに対する安定した推論を実現する。

ABSTRACT

The aim of the plsRglm package is to deal with complete and incomplete datasets through several new techniques or, at least, some which were not yet implemented in R. Indeed, not only does it make available the extension of the PLS regression to the generalized linear regression models, but also bootstrap techniques, leave-one-out and repeated $k$-fold cross-validation. In addition, graphical displays help the user to assess the significance of the predictors when using bootstrap techniques. Biplots (Fig. 4) can be used to delve into the relationship between individuals and variables.

研究の動機と目的

• 既存のRパッケージにおける欠損データ対応の欠如を解消し、通常は不完全な観測を除外または拒否する。
• 部分最小二乗回帰（PLS）を一般化線形モデル（PLSGLR）に拡張し、二値、度数、その他の正規分布でない応答変数の分析を可能にする。
• 高次元または共線性の高いデータセットにおける予測変数の有意性とモデル安定性を評価するため、ブートストラップリサンプリング手法（Y,T）および（Y,X）を実装する。
• 交差検証に基づく基準（例：$Q^2$、PRESS、誤分類率）および自由度補正付き情報基準（AIC、BIC）を用いて、最適な成分数の選択を可能にする。
• 解釈支援および複雑なデータセットにおけるモデルの頑健性評価を目的としたグラフィカルツール（例：バイプロット、ブートストラップ信頼区間）を開発する。

提案手法

• 予測変数と応答変数の関係をモデリングするため、PLSRおよびPLSGLRフレームワークを用い、予測変数が高次元または観測数を上回る場合でも有効である。
• 100回の8分割交差検証（例：100×8分割）を繰り返し実施し、$Q^2$、誤分類率、AIC、BICなどの基準を用いてモデル性能を推定し、最適な成分数を選択する。
• 2種類のブートストラップリサンプリングスキーム（$(Y,X)$ および $(Y,T)$）を実装し、後者は一般化線形モデルにおいてより高速かつ安定であることが判明。
• 回帰係数の$BC_a$ブートストラップ信頼区間を計算し、予測変数の有意性を評価する。パッケージ内では視覚化も提供される。
• 成分数の誤指定を補償するため、異なる成分数を持つモデル群にわたる有意性を統合する、頑健な有意性指標$\pi_e$を導入する。
• 二値応答変数向けのロジットリンク関数を含む、複数のリンク関数をサポートし、順序尺度、二項、ポアソン、ネガティブ二項などのさまざまな応答タイプをPLSGLRで処理可能である。

実験結果

リサーチクエスチョン

• RQ1 高次元または不完全なデータセットにおいて、PLS回帰を一般化線形モデル（PLSGLR）に効果的に拡張する方法は何か？
• RQ2 欠損データや強い予測変数の共線性が存在する状況において、最適なPLS成分数の選択に最も信頼できる交差検証および情報基準は何か？
• RQ3 異なるブートストラップリサンプリング戦略（$(Y,X)$ 対 $(Y,T)$）は、一般化線形モデルにおけるPLS予測変数の安定性および有意性評価にどのように影響を及けるか？
• RQ4 バイプロットやブートストラップ信頼区間などのグラフィカルツールは、生物学的または医療分野の複雑なデータセットにおけるPLSモデルの解釈可能性および信頼性をどの程度向上できるか？
• RQ5 交差検証による成分数選択の不確実性を考慮するため、頑健な有意性指標$\pi_e$をどのように構築できるか？

主な発見

• 100回の繰り返し8分割交差検証に基づき、4成分のPLS二値ロジスティック回帰モデルが選択され、誤分類率が最低（104観測中55例）であり、再現性に優れた性能を示した。
• 1000回のリサンプリングを用いた$BC_a$ブートストラップ法により、コロニー癌アレロタイプ解析データセットの33個の予測変数のうち、有意に0とは異なるのは9個にとどまった。
• 4成分モデルの推定係数は$\hat{c}_1 = 1.4274$、$\hat{c}_2 = 0.5096$、$\hat{c}_3 = 0.6903$、$\hat{c}_4 = 0.7930$、切片は$\hat{\mu} = -0.2968$であり、$y=1$の確率はロジットリンクでモデル化された。
• $BC_a$ブートストラップ信頼区間は、1〜8成分のモデルすべてにおいて複数の予測変数が有意であることを示し、高い安定性を確認した。
• 頑健な有意性指標$\pi_e$は、成分数が変動しても予測変数の有意性が比較的安定していることを示し、成分数選択の誤りによる偽陽性のリスクを低減した。
• $(Y,T)$ブートストラップ法は、特に一般化線形モデルにおいて$(Y,X)$よりも著しく高速かつ安定であったが、両者の結果は顕著に異なっており、手法選択の重要性を強調した。