[論文レビュー] Eigenvectors of some large sample covariance matrix ensembles

Olivier Ledoit, Sandrine Péché|ArXiv.org|Nov 16, 2009

Random Matrices and Applications参考文献 23被引用数 11

ひとこと要約

本稿は、大次元確率的行列理論における標本共分散行列固有ベクトルの漸近的挙動を導出し、Stieltjes変換を介して標本固有ベクトルと母集団固有ベクトルの間の関数的関係を確立する。主な貢献は、標本固有値のバイアス補正推定量を導出し、高次元設定下での母集団共分散行列およびその逆行列の推定を改善することにある。

ABSTRACT

We consider sample covariance matrices $S_N=\frac{1}{p}Σ_N^{1/2}X_NX_N^* Σ_N^{1/2}$ where $X_N$ is a $N imes p$ real or complex matrix with i.i.d. entries with finite $12^{ m th}$ moment and $Σ_N$ is a $N imes N$ positive definite matrix. In addition we assume that the spectral measure of $Σ_N$ almost surely converges to some limiting probability distribution as $N o \infty$ and $p/N o γ>0.$ We quantify the relationship between sample and population eigenvectors by studying the asymptotics of functionals of the type $\frac{1}{N} ext{Tr} (g(Σ_N) (S_N-zI)^{-1})),$ where $I$ is the identity matrix, $g$ is a bounded function and $z$ is a complex number. This is then used to compute the asymptotically optimal bias correction for sample eigenvalues, paving the way for a new generation of improved estimators of the covariance matrix and its inverse.

研究の動機と目的

• 高次元極限下での標本共分散行列固有ベクトルと母集団共分散行列固有ベクトルの間の漸近的乖離を特定すること。
• Stieltjes変換を含むリゾルベント行列の関数的表現を用いて、標本固有ベクトルと母集団固有ベクトルの関係を定量化すること。
• 共分散行列推定の改善を目的として、標本固有値に対する漸近的に最適なバイアス補正を導出すること。
• 標本共分散行列の経験的スペクトル分布が確率的限界に収束する条件を確立すること。
• 高次元設定下での共分散行列およびその逆行列の改善推定量の構築に理論的基盤を提供すること。

提案手法

• リゾルベント行列 $(S_N - zI)^{-1}$ 及びそのトレース関数 $\frac{1}{N}\mathrm{Tr}\left(g(\Sigma_N)(S_N - zI)^{-1}\right)$ を用いて、固有ベクトルの挙動を分析する。
• 限界スペクトル分布 $F$ のStieltjes変換 $m_F(z)$ を用いて、漸近的固有値分布を特徴付ける。
• Marčenko-Pastur法則およびその精密化版を用いて、$p/N \to \gamma > 0$ の下での限界スペクトル測度 $F$ を記述する。
• 変換されたStieltjes変換 $\Theta^{-1}(z)$ の逆数を用いて、固有ベクトル射影の漸近的分布を導出する。
• 複素解析およびStieltjes変換の虚部を用いた逆数公式を用いて、累積分布関数を回復する。
• 標本固有値分布の収束および $z \to \lambda \in \mathbb{R}$ の下でのStieltjes変換の極限の存在といった、確率的行列理論の結果を応用する。

実験結果

リサーチクエスチョン

• RQ1 高次元漸近的条件下で、標本共分散行列の固有ベクトルは母集団共分散行列の固有ベクトルからどのように乖離するか？
• RQ2 N \to \infty の下で、関数的 $\frac{1}{N}\mathrm{Tr}\left(g(\Sigma_N)(S_N - zI)^{-1}\right)$ の極限挙動は何か？
• RQ3 導出された固有ベクトル関係を用いて、標本固有値のバイアスを漸近的に補正可能か？
• RQ4 標本共分散行列の限界スペクトル分布 $F$ と母集団スペクトル分布 $H$ の関係は何か？
• RQ5 限界Stieltjes変換の存在および実数直線上での境界値の連続性を保証する条件は何か？

主な発見

• 固有ベクトル射影の漸近的分布は、Stieltjes変換から導出されたバイアス補正関数 $\psi(\lambda)$ を用いて $\Psi(x) = \int_{-\infty}^x \psi(\lambda) \, dF(\lambda)$ で特徴付けられる。
• $\gamma > 1$ の場合、バイアス補正固有値推定量は $\Psi(x) = \int_{-\infty}^x \frac{1 - \gamma^{-1} - 2\gamma^{-1}\lambda \, \mathrm{Re}[\breve{m}_F(\lambda)]}{\lambda} \, dF(\lambda)$ で与えられる。
• $\gamma < 1$ の場合、バイアス補正にはゼロにおける不連続性が含まれ、$\lambda = 0$ の近傍で $\Psi(x) = \int_{-\infty}^x \left[-\breve{m}_{\underline{F}}(0) + \frac{1}{1 - \gamma} \breve{m}_H(0) \right] \, dF(\lambda)$ となる。
• 仮定 $p/N \to \gamma > 0$ および $H_N \to H$ の下で、標本共分散行列の限界スペクトル分布 $F$ はほとんど確実に非確率的限界 $F$ に収束する。
• Stieltjes変換 $m_F(z)$ は、$m_F(z)$ と母集団スペクトル測度 $H$ を含む自己整合的方程式 $m_F(z) = \int \left\{ \tau[1 - \gamma^{-1} - \gamma^{-1} z m_F(z)] - z \right\}^{-1} dH(\tau)$ を満たす。
• 限界スペクトル分布の微分は $\lambda > 0$ に対して $F'(\lambda) = \pi^{-1} \mathrm{Im}[\breve{m}_F(\lambda)]$ であり、$\gamma > 1$ のとき $F$ は連続的に微分可能である。