[論文レビュー] $L^2$ Asymptotics for High-Dimensional Data

Mengyu Xu, Danna Zhang+1 more|arXiv (Cornell University)|May 28, 2014

Random Matrices and Applications参考文献 43被引用数 7

ひとこと要約

本稿は、$p$ が $n$ を超える高次元設定における標本平均ベクトルの $L^2$ ノルムの漸近理論を展開する。$n\bar{X}_n^T\bar{X}_n$ の分布がガウス型二次形式の分布に収束することを示す不変性原理を確立し、正規性の欠如や高次元漸近のもとでもガウス近似を用いた有効な推論を可能にする。

ABSTRACT

We develop an asymptotic theory for $L^2$ norms of sample mean vectors of high-dimensional data. An invariance principle for the $L^2$ norms is derived under conditions that involve a delicate interplay between the dimension $p$, the sample size $n$ and the moment condition. Under proper normalization, central and non-central limit theorems are obtained. To facilitate the related statistical inference, we propose a plug-in calibration method and a re-sampling procedure to approximate the distributions of the $L^2$ norms. Our results are applied to multiple tests and inference of covariance matrix structures.

研究の動機と目的

• 次元 $p$ が標本サイズ $n$ と共に増加する状況、特に $p > n$ の領域において、標本平均ベクトルの $L^2$ ノルムの有効な漸近理論を確立すること。
• 古典的中心極限定理が $\sqrt{n} = o(p)$ の下で破綻する高次元状況に対処し、固定次元漸近のもとを越えて $L^2$ ノルム推論の有効性を拡張すること。
• 一般のモーメント条件の下で、特に多重仮説検定や共分散構造検定を含む統計的推論の枠組みを、標本平均の $L^2$ ノルムを用いて構築すること。
• 真の共分散行列が未知である状況での実用的推論を可能にするために、$L^2$ ノルムの分布を近似するためのプラグイン補正およびリサンプリング手法を提案すること。
• スティンの方法を用いて $n\bar{X}_n^T\bar{X}_n$ に対する非漸近的ガウス近似を確立し、同じ共分散構造を持つ混合 $\chi^2$ 変数への分布収束を示すこと。

提案手法

• モーメント条件および次元-標本サイズ条件の下で、$\sup_{u\in\mathbb{R}}|\mathbb{P}(n\bar{X}_n^T\bar{X}_n \leq u) - \mathbb{P}(n\bar{Y}_n^T\bar{Y}_n \leq u)| \to 0$ を示す不変性原理を導出。ここで $Y_i \sim N(0,\Sigma)$ である。
• ガウス近似のためのスティンの方法を適用し、データの四次モーメントに関するモーメント条件を用いて、$L^2$ ノルムとガウス混合の間の Wasserstein 距離のバウンドを導出する。
• スペクトルノルム収束とは異なり、高次元設定における標本共分散行列推定量の品質を評価するための新しい行列収束基準「正規化一致性」を導入する。
• 推定共分散行列を用いたプラグイン補正法を提案し、新しい一貫性基準の下で理論的裏付けを与える。
• 共分散行列 $\Sigma$ が未知である場合に、$L^2$ ノルムの標本分布を近似するリサンプリング手順を構築する。
• 四次モーメントと共分散構造を用いて定義される $\gamma_{a,a'}$ を用いて、$\mathbb{E}[W W^T] = \sum_{a,a'} \gamma_{a,a'}^2$ という恒等式を用い、二次形式の分散のバウンドを導出する。

実験結果

リサーチクエスチョン

• RQ1 高次元漸近のもとで、$p$ と $n$ および $X_i$ の四次モーメントに関する条件を満たすとき、$n\bar{X}_n^T\bar{X}_n$ はどのようにしてガウス混合分布に分布収束するか？
• RQ2 データが非正規的で $p > n$ の場合、$n\bar{X}_n^T\bar{X}_n$ の漸近分布はどのように近似可能か？
• RQ3 高次元における $L^2$ ノルムの極限分布を決定づける要因として、四次モーメント構造は果たすどのような役割を果たすか？
• RQ4 真の共分散行列が未知である状況で、プラグイン法やリサンプリング法が $L^2$ ノルムの標本分布を信頼性高く近似できるか？
• RQ5 提案された正規化一貫性基準は、スペクトルノルム収束とはどのように異なり、なぜ高次元設定においてより適切なのか？

主な発見

• 条件が $p$、$n$、$X_i$ の四次モーメントを満たすとき、$\sup_{u\in\mathbb{R}}|\mathbb{P}(n\bar{X}_n^T\bar{X}_n \leq u) - \mathbb{P}(n\bar{Y}_n^T\bar{Y}_n \leq u)| \to 0$ が成立し、不変性原理の妥当性が裏付けられる。
• 非正規データに対しても、$n\bar{X}_n^T\bar{X}_n$ の極限分布は、独立な $\chi^2$ 分布の混合に近似可能であることが示された。
• 正規化一貫性基準が導入され、標本共分散行列がスペクトルノルムで収束しなくても、プラグイン補正の有効性が保証された。
• 四次モーメントと共分散構造を用いて定義される $f_W^2 = \sum_{a,a'} \gamma_{a,a'}^2$ を用いた分解により、二次形式の分散がバウンドされた。
• すべての $\nu \in (0,2)$ に対して $f_W^2 \geq \nu^2 f^4 / 2$ が成り立つことが証明され、やや厳しいモーメント条件のもとでも極限分散の非退化が保証された。
• リサンプリングおよびプラグイン補正法が、提案された正規化一貫性条件のもとで理論的保証を伴い、高次元多重仮説検定や共分散構造検定における実用的応用が可能であることが示された。