[論文レビュー] Robustness and accuracy of methods for high dimensional data analysis based on Student's t statistic

Aurore Delaigle, Peter Hall+1 more|arXiv (Cornell University)|Jan 22, 2010

Advanced Statistical Methods and Models被引用数 8

ひとこと要約

本稿は、特に重たい尾を持つ分布およびスパースな信号を想定した高次元設定において、スチューデントt統計量およびそのブートストラップ近似のロバスト性と2次精度を確立する。ブートストラップは極端な尾部における歪度を効果的に是正し、p ≫ n 問題における尾確率推定において、正規分布およびt分布近似を上回る性能を示すことが示された。

ABSTRACT

Student's $t$ statistic is finding applications today that were never envisaged when it was introduced more than a century ago. Many of these applications rely on properties, for example robustness against heavy tailed sampling distributions, that were not explicitly considered until relatively recently. In this paper we explore these features of the $t$ statistic in the context of its application to very high dimensional problems, including feature selection and ranking, highly multiple hypothesis testing, and sparse, high dimensional signal detection. Robustness properties of the $t$-ratio are highlighted, and it is established that those properties are preserved under applications of the bootstrap. In particular, bootstrap methods correct for skewness, and therefore lead to second-order accuracy, even in the extreme tails. Indeed, it is shown that the bootstrap, and also the more popular but less accurate $t$-distribution and normal approximations, are more effective in the tails than towards the middle of the distribution. These properties motivate new methods, for example bootstrap-based techniques for signal detection, that confine attention to the significant tail of a statistic.

研究の動機と目的

• p ≫ n の高次元データにおけるt統計量に基づく手法のロバスト性と精度を調査すること。
• 重たい尾を持つ標本分布下での尾確率推定において、ブートストラップ、t分布、正規分布近似の性能を検討すること。
• スパースで高次元な設定における信号検出および多重仮説検定のためのブートストラップベースの手法の開発と検証すること。
• 弱いモーメント条件の下での標準化統計量の収束速度および高次精度を定量化すること。
• スパース信号検出における高次批判検定の理論的保証を、標準化統計量を用いて確立すること。

提案手法

• 第二モーメントがわずかに有限であることを含む弱いモーメント仮定の下で、標準化t統計量の中程度および大偏差を分析する。
• t統計量の標本分布をブートストラップで近似し、歪度を是正し、極端な尾部において2次精度に達することを示す。
• 大偏差および中程度の偏差確率論を用いて、t統計量およびそのブートストラップ近似の尾確率に対する境界を導出する。
• 帰無仮説および対立仮説の下で、Studentized t統計量を用いた高次批判検定統計量の漸近的展開を導出する。
• ミルズの比率および極値近似を用いて、高次元的状態下における尾確率の挙動を分析する。
• s_n(q) = √(2q log p) を用いた再パラメータ化により、異なる尾領域における最大信号検出能力を研究する。

実験結果

リサーチクエスチョン

• RQ1 母集団分布が重たい尾を持ち、第二モーメントしか有限でない場合、t統計量はロバスト性と精度の面でどのように振る舞うか？
• RQ2 特に極端な尾部において、ブートストラップはt統計量の尾確率推定の精度をどの程度向上させるか？
• RQ3 古典的近似が失敗する高次元設定において、ブートストラップベースの手法は2次精度に達するか？
• RQ4 高次元多重仮説検定において、Studentized統計量を用いたスパース信号の検出境界は何か？
• RQ5 重たい尾およびスパース信号モデル下で、t統計量に基づく高次批判検定の性能は、古典的手法と比べてどうか？

主な発見

• t統計量は、第二モーメントが有限である場合でさえ、重たい尾分布に対してロバストであり、標準化されていない平均よりも正規分布への収束が速い。
• ブートストラップ近似は、正規分布およびt分布近似が直面する歪度を是正することで、特に尾部において2次精度に達する。
• 超過確率が指数的または多項式的に小さい場合、ブートストラップは正規分布やt分布近似よりも尾確率推定においてより効果的である。
• スパース信号検出において、t統計量に基づく高次批判検定は、信号強度とスパarsityが特定の閾値条件を満たす場合に最適な検出能力を達成する。
• 最大信号検出能力は、尾確率の指数を支配する関数π(q, β, r)によって決定され、最適な検出はβとrに依存する特定のq値で達成される。
• 対立仮説下で、高次批判統計量˜hc_n,αはL_pに比例し、標準正規分布の生存関数を含む項として増大するが、尾領域におけるαに関する最大値が検出能力を決定する。