[論文レビュー] Linear spectral statistics of eigenvectors of anisotropic sample covariance matrices

Fan Yang|arXiv (Cornell University)|May 3, 2020

Random Matrices and Applications参考文献 46被引用数 5

ひとこと要約

本稿は、非等方的標本共分散行列における固有ベクトルの線形スペクトル統計量について、機能的中心極限定理を確立し、母共分散行列 $Σ$ と決定的単位ベクトル $\mathbf{v}$ に依存する明示的な共分散関数を導出する。グローバルおよびローカルスケールの両方でガウス過程への収束を証明し、本件において $Σ$ と $\mathbf{v}$ への依存関係を初めて明示的に特定する。

ABSTRACT

Consider sample covariance matrices of the form $Q:=Σ^{1/2} X X^ op Σ^{1/2}$, where $X=(x_{ij})$ is an $n imes N$ random matrix whose entries are independent random variables with mean zero and variance $N^{-1}$, and $Σ$ is a deterministic positive-definite covariance matrix. We study the limiting behavior of the eigenvectors of $Q$ through the so-called eigenvector empirical spectral distribution $F_{\mathbf v}$, which is an alternative form of empirical spectral distribution with weights given by $|\mathbf v^ op ξ_k|^2$, where $\mathbf v$ is a deterministic unit vector and $ξ_k$ are the eigenvectors of $Q$. We prove a functional central limit theorem for the linear spectral statistics of $F_{\mathbf v}$, indexed by functions with Hölder continuous derivatives. We show that the linear spectral statistics converge to some Gaussian processes both on global scales of order 1 and on local scales that are much smaller than 1 but much larger than the typical eigenvalue spacing $N^{-1}$. Moreover, we give explicit expressions for the covariance functions of the Gaussian processes, where the exact dependence on $Σ$ and $\mathbf v$ is identified for the first time in the literature.

研究の動機と目的

• 高次元設定（$n \sim N$）における非等方的標本共分散行列 $Q = \Sigma^{1/2}XX^\top\Sigma^{1/2}$ の固有ベクトルの極限挙動を研究すること。
• 固定された単位ベクトル $\mathbf{v}$ に対して、固有値を $|\langle \xi_k, \mathbf{v} \rangle|^2$ で重みづけた固有ベクトル経験的スペクトル分布（VESD）$F_{\mathbf{v}}$ を分析すること。
• 一般のモーメント条件の下で、$F_{\mathbf{v}}$ の線形スペクトル統計量に対する機能的中心極限定理（CLT）を確立すること。
• 制限されたガウス過程の共分散関数の明示的表現を導出し、$Σ$ と $\mathbf{v}$ への依存関係を初めて同定すること。

提案手法

• 固有ベクトル経験的スペクトル分布（VESD）を $F_{\mathbf{v}}(x) = \sum_{k=1}^n |\langle \xi_k, \mathbf{v} \rangle|^2 \mathbf{1}_{\{\lambda_k \leq x\}}$ と定義する。ここで $\xi_k$ は $Q$ の固有ベクトル、$\lambda_k$ は固有値である。
• $\Sigma^{1/2}X$ の特異値分解を用いて、固有ベクトル $\xi_k$ と固有値 $\lambda_k$ を特異ベクトルおよび特異値で表現する。
• マーティングール差分解とストイレツト変換の局所法を用い、$F_{\mathbf{v}}$ の線形統計量のフラクチュエーションを制御する。
• 弱いモーメント仮定の下でモーメントマッチングとモーメントバウンドを用いて、経験的分布と極限分布の間の比較定理を確立する。
• ウィクの定理とモーメント収束を用いて、極限共分散関数を導出し、極限過程が中心ガウス過程であることを示す。
• ヘルファ・シュトロームの公式を用いて、ホルダー連続な微分を持つ一般のテスト関数へCLTを拡張する。

実験結果

リサーチクエスチョン

• RQ1 高次元的非等方的標本共分散行列における固有ベクトル経験的スペクトル分布 $F_{\mathbf{v}}$ の線形スペクトル統計量は、漸近的にどのように振る舞うか？
• RQ2 滑らかなテスト関数 $f$ に対して、$\sum_{k=1}^n f(\lambda_k) |\langle \xi_k, \mathbf{v} \rangle|^2$ の極限分布は何か？
• RQ3 極限ガウス過程の共分散構造は、母共分散行列 $\Sigma$ とテストベクトル $\mathbf{v}$ にどのように依存するか？
• RQ4 弱いモーメント仮定のもとでも、グローバルおよびローカルスケールの両方における線形統計量のための機能的CLTを確立できるか？
• RQ5 線形統計量 $F_{\mathbf{v}}$ の極限共分散関数の正確な形は何か？

主な発見

• 固有ベクトル経験的スペクトル分布 $F_{\mathbf{v}}$ の線形スペクトル統計量に対する機能的中心極限定理が確立され、グローバルおよびローカルスケールの両方で中心ガウス過程への収束が示された。
• 極限ガウス過程の共分散関数は $\Sigma$ と $\mathbf{v}$ に依存する明示的表現を有し、本件で文献において初めてこの依存関係が特定された。
• 弱いモーメント条件：$\mathbb{E}|x_{ij}|^2 = N^{-1}$ および $\mathbb{E}x_{ij} = 0$ かつ高次モーメントが指数的減衰により制御される条件下でも収束が成立する。
• 帰無仮説 $\Sigma = I$ の下で、VESDの収束速度はほぼ確実に $O(N^{-1/4 + \epsilon})$ であり、既存の境界を改善する。
• ホルダー連続な微分を持つテスト関数に対して、極限共分散関数が明示的に導出され、$\Sigma$ のスペクトル的性質と方向 $\mathbf{v}$ への依存関係が示された。
• 経験的分布と極限分布の間の比較法に依拠する証明であり、モーメント条件（2.21）の下で誤差バウンドが $O_{\prec}(N^{-\varepsilon})$（ある $\varepsilon > 0$）となる。