[論文レビュー] On Estimating Many Means, Selection Bias, and the Bootstrap

Noah Simon, Richard Simon|arXiv (Cornell University)|Nov 15, 2013

Statistical Methods and Inference参考文献 12被引用数 8

ひとこと要約

本稿は、選択された極端な効果量が系統的に過大評価される高次元平均推定における選択バイアスを推定する頻度主義枠組みを提案する。極端な効果量の過大評価を補正するためのパラメトリックブートストラップ法を導入し、Empirical Bayes手法と同等の性能を示すが、特にパラメトリック仮定が成り立たない非正規または非パラメトリックな設定において、Empirical Bayesが不適切となる場合に広範な適用性を示す。

ABSTRACT

With recent advances in high throughput technology, researchers often find themselves running a large number of hypothesis tests (thousands+) and esti- mating a large number of effect-sizes. Generally there is particular interest in those effects estimated to be most extreme. Unfortunately naive estimates of these effect-sizes (even after potentially accounting for multiplicity in a testing procedure) can be severely biased. In this manuscript we explore this bias from a frequentist perspective: we give a formal definition, and show that an oracle estimator using this bias dominates the naive maximum likelihood estimate. We give a resampling estimator to approximate this oracle, and show that it works well on simulated data. We also connect this to ideas in empirical Bayes.

研究の動機と目的

• 極端な効果量が報告のために選択される状況において、高次元平均推定における選択バイアスを頻度主義的視点から形式化すること。
• 推定平均の順序統計量における頻度主義的バイアスを定義し、そのバイアス補正推定量が平均二乗誤差の観点でナイーブな最尤推定量を上回ることを示すこと。
• モデルの複雑さやパラメトリック仮定の欠如によってEmpirical Bayesが不適切となる状況でも適用可能な、一般化されたリサンプリングベースの方法（パラメトリックブートストラップ）を考案し、この選択バイアスを推定すること。
• シミュレーションと実データ（例：前立腺がんの遺伝子発現）を用いて手法の性能を検証し、有利な状況ではEmpirical Bayesと強い一致を示し、複雑な状況では優れた頑健性を示すことを示すこと。

提案手法

• 選択バイアスを、標本平均の順序統計量と選択された特徴量の真の平均との期待値の差として定義する：$\beta_k = \mathbb{E}[z_{(k)} - \mu_{i(k)}]$。
• パラメトリックブートストラップ手順を提案し、推定されたパrametersを用いた正規モデルからリサンプリングすることで$\beta_k$を推定する。この際、順序統計量の経験的分布を用いる。
• ブートストラップ推定値$\hat{\beta}_k$を用いて極端な標本平均を補正し、$\tilde{\mu}_{i(k)} = z_{(k)} - \hat{\beta}_k$とすることで、平均二乗誤差を低減する収縮推定量を導出する。
• Tweedieの公式や非パラメトリック密度推定に基づくEmpirical Bayes手法と比較し、収縮行動における類似点と相違点を強調する。
• シミュレーションデータおよび実際のハイパーパラメータデータ（例：前立腺がんマイクロアレイ）にこの手法を適用し、多様な状況下で一貫した性能を示すことを確認する。
• 正則性条件の下で、ブートストラップ推定量の理論的一貫性を示し、標本サイズが増加するにつれて推定バイアスが真のバイアスに収束することを示す。

実験結果

リサーチクエスチョン

• RQ1 高次元平均推定における選択バイアスを、頻度主義的視点から形式的に定義し、定量的に測定することは可能か？
• RQ2 パラメトリック事前分布に依存せずに、一般化されたリサンプリングベースの方法を考案し、この選択バイアスを推定・補正することは可能か？
• RQ3 提案手法のブートストラップ法が、既存のEmpirical Bayes手法と比較して、バイアス低減および平均二乗誤差という観点でどの程度優れているか？
• RQ4 パラメトリック仮定が成り立たない状況では、特にモデルの複雑さや分布の不明瞭さが問題となるが、そのような状況でブートストラップ法がEmpirical Bayesよりも頑健または実用的であるとされるのはどのような場面か？

主な発見

• Empirical Bayesが適用可能な状況では、特に構造が明確なシミュレーションおよび実データにおいて、ブートストラップに基づくバイアス補正手法は、平均二乗誤差の観点でEmpirical Bayes手法と同等の性能を示す。
• 極端な順序統計量における選択バイアスが顕著に低減され、補正済み推定量は全体の平均に強く収縮する傾向を示し、特に最も極端な値に対して顕著である。
• Marginal test statisticsの分布が不明または複雑な場合、Empirical Bayesが不適切となる状況では、ブートストラップ法が依然として有効で、計算的にも実行可能である。
• 理論的分析により、特徴数が増加するにつれてブートストラップ推定量が真のバイアスに収束することが確認され、正則性条件の下で一貫性が裏付けられる。
• 前立腺がんデータを用いた実験的結果から、ナイーブな標本平均と比較して、ブートストラップ収縮推定量は、特に上位ランクの特徴量に対してより安定的で楽観的ではない効果量推定値を生成することが示された。