[論文レビュー] Guarding against Spurious Discoveries in High Dimensions

Jianqing Fan, Wen‐Xin Zhou|PubMed|Dec 5, 2015

Statistical Methods and Inference参考文献 1被引用数 6

ひとこと要約

本稿では、高次元変数選択の結果がランダムな偶然よりも統計的に優れているかどうかを評価するため、一般化された最大偽装相関尺度である適合の偽装度（GOSF）を導入する。GOSFを計算するためのLAMMアルゴリズムを提案し、一般化線形モデルおよび$L_1$回帰における漸近的分布を導出し、モデル選択および偽装発見の制御のための乗数ブートストラップによる一貫性のあるベンチマークが可能になる。

ABSTRACT

Many data-mining and statistical machine learning algorithms have been developed to select a subset of covariates to associate with a response variable. Spurious discoveries can easily arise in high-dimensional data analysis due to enormous possibilities of such selections. How can we know statistically our discoveries better than those by chance? In this paper, we define a measure of goodness of spurious fit, which shows how good a response variable can be fitted by an optimally selected subset of covariates under the null model, and propose a simple and effective LAMM algorithm to compute it. It coincides with the maximum spurious correlation for linear models and can be regarded as a generalized maximum spurious correlation. We derive the asymptotic distribution of such goodness of spurious fit for generalized linear models and <i>L</i>₁-regression. Such an asymptotic distribution depends on the sample size, ambient dimension, the number of variables used in the fit, and the covariance information. It can be consistently estimated by multiplier bootstrapping and used as a benchmark to guard against spurious discoveries. It can also be applied to model selection, which considers only candidate models with goodness of fits better than those by spurious fits. The theory and method are convincingly illustrated by simulated examples and an application to the binary outcomes from German Neuroblastoma Trials.

研究の動機と目的

• 高次元変数選択における偽装発見という重要な問題に取り組むこと。ここでの選択された共変数は、真に相関がない場合でも偶然に予測可能に見える可能性がある。
• 真の関連がないという帰無仮説下で、任意の共変数サブセットが達成可能な最良の適合を定量化する、厳密な統計的ベンチマーク「適合の偽装度（GOSF）」を定義すること。
• 線形モデルに限らない最大偽装相関の概念を、一般化線形モデルおよび$L_1$回帰へと拡張すること。
• GOSFの漸近的分布を導出し、サンプルサイズ、環境次元、モデルサイズ、および設計共分散構造に依存することを明らかにすること。
• モデル選択において偽装適合を除外できる、実用的で一貫性のあるGOSF分布の推定法を提供すること。

提案手法

• 帰無モデル下で、任意の$s$-サブセットの共変数が達成可能な最大尤度比統計量として、適合の偽装度（GOSF）を定義する。
• 帰無仮説下ですべての$s$-サブセットの共変数について最適化することで、GOSFを効率的に計算するLAMMアルゴリズムを導入する。
• 非漸近的で条件付きのウィルクスの定理を用いて、一般化線形モデルおよび$L_1$回帰におけるGOSFの漸近的分布を導出する。
• 正則性条件の下で、すべての$s$-サブセットにおいて、対数尤度の超過量の平方根と正規化されたスコアノルムが一様に近いことを確立する。
• 超過対数尤度の代理として正規化されたスコア$\widehat{\boldsymbol{\xi}}_S$を用い、その$\ell_2$-ノルムがGOSFを近似することを示す。
• 乗数ブートストラップを用いて、GOSFの漸近的分布を一貫して推定し、実際のモデル適合の経験的ベンチマークが可能になる。

実験結果

リサーチクエスチョン

• RQ1 すべての共変数が応答変数に対して真正に独立である場合、応答変数が任意の共変数サブセットによって達成可能な最良の適合を、形式的にどのように測定できるか？
• RQ2 高次元設定下で、一般化線形モデルおよび$L_1$回帰における最大偽装適合の漸近的分布は何か？
• RQ3 適合の偽装度（GOSF）は、実務的に一貫して推定可能であり、モデル選択のベンチマークとして機能可能か？
• RQ4 GOSF分布は、サンプルサイズ、環境次元、およびモデルサイズといった主要な設計パラメータにどのように依存するか？
• RQ5 提案手法は、高次元データ解析における誤った発見をどの程度まで防げるか？

主な発見

• 適合の偽装度（GOSF）の漸近的分布は、サンプルサイズ$n$、環境次元$p$、モデル内の変数数$s$、および設計行列の共分散構造に依存する。
• GOSF分布は乗数ブートストラップを用いて一貫して推定可能であり、高次元モデル選択における統計的有意性の経験的補正が可能になる。
• LAMMアルゴリズムは、すべての$s$-サブセットの共変数について最適化することで、GOSFを効率的に計算でき、正則性条件の下で理論的保証が得られる。
• 正規化されたスコア$\widehat{\boldsymbol{\xi}}_S$は、すべての$s$-サブセットにおいて、対数尤度の超過量の平方根を高確率で一様に近似する。
• $\|\widehat{\boldsymbol{\xi}}_S\|_2$と$\|\boldsymbol{\xi}_S\|_2$の近似誤差に関する理論的バインドは$O(s \log(pn) / n^{1/2})$のオーダーであり、高次元においても頑健性を保証する。
• 本手法は、シミュレートされたデータに対して検証され、ドイツ神経芽腫臨床試験の二値アウトカムに応用され、実世界の高次元設定における実用的有用性が示された。