[論文レビュー] Asymptotic Joint Distribution of Extreme Sample Eigenvalues and Eigenvectors in the Spiked Population Model

Dai Shi|arXiv (Cornell University)|Apr 22, 2013

Random Matrices and Applications参考文献 19被引用数 7

ひとこと要約

本稿は、有限個の非単位固有値を持つ母共分散行列を有するスプライド母集団モデルにおいて、極値標本固有値および固有ベクトルの漸近的同時分布を確立する。一般なモーメント条件の下で、極値固有値およびそれに対応する固有ベクトルは、明示的に計算された分散構造を持つ多変量正規分布に同時に収束し、正規性のもとでは固有値パックは漸近的に独立となり、局所的フラクチュエーションも独立となる。

ABSTRACT

In this paper, we consider a data matrix $X_N\in\mathbb{R}^{N imes p}$ where all the rows are i.i.d. samples in $\mathbb{R}^p$ of mean zero and covariance matrix $Σ\in\mathbb{R}^{p imes p}$. Here the population matrix $Σ$ is of finite rank perturbation of the identity matrix. This is the "spiked population model" first proposed by Johnstone. As $N, p o\infty$ but $N/p o γ\in(1, \infty)$, for the sample covariance matrix $S_N := X_NX_N^T/N$, we establish the joint distribution of the largest and the smallest few packs of eigenvalues. Inside each pack, they will behave the same as the eigenvalues drawn from a Gaussian matrix of the corresponding size. Among different packs, we also calculate the covariance between the Gaussian matrices entries. As a corollary, if all the rows of the data matrix are Gaussian, then these packs will be asymptotically independent. Also, the asymptotic behavior of sample eigenvectors are obtained. Their local fluctuation is also Gaussian with covariance explicitly calculated.

研究の動機と目的

• スプライド母集団モデルにおける最大および最小標本固有値の同時漸近的分布を特定すること。
• 標本固有ベクトルの極限分布を導出すること、特にその局所的フラクチュエーションを含むこと。
• 固有値および固有ベクトルの極限正規分布の明示的な分散構造を計算すること。
• 固有値パックが漸近的に独立となる条件を確立すること、特に正規標本抽出の下での場合を含むこと。
• マルチェンコ＝パストールの法則の下での「ノンスパイク」状況を超えて、普遍性結果をスプライドモデルへ拡張すること。

提案手法

• データ行列を信号成分とノイズ成分に分解し、信号部分空間をスプライド固有値が張る。
• 標本固有値および固有ベクトルの2次近似を母集団パラメータの周囲で行い、リゾルベント技法およびスペクトル射影法に依存する。
• データの4次のモーメントを含むトレースの漸近的評価を用いて、極限正規分布の分散共分散行列を導出する。
• 固有値および固有ベクトル成分の線形統計量に対する多変量中心極限定理を用いて、固有値および固有ベクトルの同時収束を確立する。
• 有限4次のモーメントとスプライド構造の仮定を活用し、極値固有値の漸近的挙動をバルク部分から分離する。
• スプライド部分空間への射影行列を含む行列積の正規化トレースの極限を用いて、極限共分散行列の明示的表現を導出する。

実験結果

リサーチクエスチョン

• RQ1 N および p が N/p → γ ∈ (1, ∞) に従って増大するスプライド母集団モデルにおいて、極値標本固有値はどのように同時に振る舞うか？
• RQ2 極値固有値に対応する標本固有ベクトルの同時漸近的分布は何か？
• RQ3 異なるパック（スプライド vs. 非スプライド）に属する固有値間の共分散は、漸近的にどのように振る舞うか？
• RQ4 どのような条件下で固有値パックが漸近的に独立となるか？
• RQ5 標本固有ベクトルの局所的フラクチュエーションの構造は何か？ また、固有値のフラクチュエーションとどのように関係するか？

主な発見

• 極値標本固有値の同時分布は、データ分布の最初の4次のモーメントによって明示的に決定される共分散行列を持つ多変量正規分布に収束する。
• 標本固有ベクトルの局所的フラクチュエーションは漸近的に正規分布に従い、その共分散構造はデータの4次のモーメントに依存する。
• 標本固有ベクトルの成分と固有値の間の極限共分散は明示的に計算され、それが元の分布の4次のモーメントにのみ依存することを示した。
• データが正規分布に従う場合、異なるパックに属する標本固有値は漸近的に独立となり、固有ベクトルのフラクチュエーションは固有値のフラクチュエーションと独立となる。
• 標本固有ベクトルと真の固有ベクトルのなす角度は、非退化な定数に収束し、その周囲で中心極限定理に類似したフラクチュエーションを示す。
• スプライド部分空間への射影作用素を含む行列積のトレース極限を用いて、固有値および固有ベクトルの極限共分散行列を閉形式で導出した。