[論文レビュー] Guarding from Spurious Discoveries in High Dimension

Jianqing Fan, Wen‐Xin Zhou|arXiv (Cornell University)|Dec 5, 2015

Statistical Methods and Inference参考文献 25被引用数 3

ひとこと要約

本稿では、LAMMアルゴリズムを用いて計算される一般化された最大偽相関測度を提案し、帰無仮説モデル下で応答変数がランダムな共変量サブセットによってどの程度よくフィットするかを定量化する。一般化線形モデルおよびL1回帰におけるこの測度の漸近的分布を導出し、乗数ブートストラップを用いた一貫したベンチマーク手法を提供することで、高次元データにおける偽の発見を防ぐ。

ABSTRACT

Many data-mining and statistical machine learning algorithms have been developed to select a subset of covariates to associate with a response variable. Spurious discoveries can easily arise in high-dimensional data analysis due to enormous possibilities of such selections. How can we know statistically our discoveries better than those by chance? In this paper, we define a measure of goodness of spurious fit, which shows how good a response variable can be fitted by an optimally selected subset of covariates under the null model, and propose a simple and effective LAMM algorithm to compute it. It coincides with the maximum spurious correlation for linear models and can be regarded as a generalized maximum spurious correlation. We derive the asymptotic distribution of such goodness of spurious fit for generalized linear models and $L_1$-regression. Such an asymptotic distribution depends on the sample size, ambient dimension, the number of variables used in the fit, and the covariance information. It can be consistently estimated by multiplier bootstrapping and used as a benchmark to guard against spurious discoveries. It can also be applied to model selection, which considers only candidate models with goodness of fits better than those by spurious fits. The theory and method are convincingly illustrated by simulated examples and an application to the binary outcomes from German Neuroblastoma Trials.

研究の動機と目的

• 予測子と応答変数の間に真の関係がない状況で、多数の共変量選択が誤って予測可能に見えるという、高次元データ解析における広範な偽発見の問題に対処すること。
• 帰無仮説下でランダムな共変量サブセットによって達成可能な最良のフィットを定量化する統計的に厳密な「偽のフィットの良さ」の測度を定義すること。
• 線形モデルを超えて一般化するため、計算が効率的な手法（LAMM）を考案し、この偽のフィット測度を計算すること。
• 一般化線形モデルおよびL1回帰における「偽のフィットの良さ」の漸近的分布を、標本サイズ、次元数、設計共分散行列に依存する形で導出すること。
• モデル選択を可能にするために、ベンチマークとしての偽のフィットよりも著しく優れたフィットを示さない候補を除外することで、誤った発見を防ぐこと。

提案手法

• 線形モデルを超えて一般化線形モデルおよびL1正則化回帰へと拡張された「偽のフィットの良さ」の測度として、一般化された最大偽相関を提案する。
• 帰無仮説モデル下で最大偽相関を効率的に計算するためのLAMMアルゴリズム（ラグランジュ補正最大化法）を導入する。
• 「偽のフィットの良さ」の漸近的分布を導出し、標本サイズ、環境次元、フィットに使用される共変量数、設計共分散構造に依存することを示す。
• 乗数ブートストラップを用いて漸近的分布を一貫して推定し、統計的有意性の閾値の経験的補正を可能にする。
• モデル選択に応用するため、偽のフィット閾値よりも著しく優れたフィットを示さないモデルをフィルタリングする。
• シミュレーションおよびドイツ神経芽腫症例治験の二値アウトカムへの応用を通じて、本手法の有効性を検証する。

実験結果

リサーチクエスチョン

• RQ1 真の関係が予測子と応答変数の間に存在しない状況で、ランダムな共変量サブセットによって達成可能な最良のフィットを統計的にどのように定量化できるか？
• RQ2 高次元設定下で一般化線形モデルおよびL1回帰における最大偽フィットの漸近的分布は何か？
• RQ3 乗数ブートストラップを用いることで、偽フィットの漸近的分布を実用的推論のために一貫して推定できるか？
• RQ4 偽フィットのベンチマークを用いることで、誤った発見を除外するモデル選択をどのように改善できるか？
• RQ5 本手法は、実世界の高次元データにおける偽関連性を検出する上で、実証的にどの程度の性能を示すか？

主な発見

• 提案された「偽のフィットの良さ」測度は、線形モデルを超えて一般化され、高次元モデル評価のための統一的枠組みを提供する。
• 「偽のフィットの良さ」の漸近的分布は、標本サイズ、環境次元、フィットに使用される共変量数、設計共分散行列に依存する。
• 乗数ブートストラップを用いることで、漸近的分布を一貫して推定でき、実用的実装と推論を可能にする。
• 偽のフィット分布から導かれるベンチマークは、統計的閾値を設定することで、誤った発見を効果的に防ぐ。
• シミュレーションおよびドイツ神経芽腫症例治験データへの応用により、本手法が高次元設定下で真の信号と偽相関を区別できる能力を示した。
• LAMMアルゴリズムは最大偽相関を効率的に計算でき、本手法のスケーラビリティと実世界データ解析への適用可能性を高めている。