[论文解读] Linear spectral statistics of eigenvectors of anisotropic sample covariance matrices

Fan Yang|arXiv (Cornell University)|May 3, 2020

Random Matrices and Applications参考文献 46被引用 5

一句话总结

该论文为各向异性样本协方差矩阵中特征向量的线性谱统计量建立了功能性中心极限定理，推导出显式协方差函数，其依赖于总体协方差矩阵 $Σ$ 和确定性单位向量 $\mathbf{v}$。该研究证明了在全局和局部尺度上收敛于高斯过程，首次在该背景下明确刻画了对 $Σ$ 和 $\mathbf{v}$ 的依赖关系。

ABSTRACT

Consider sample covariance matrices of the form $Q:=Σ^{1/2} X X^ op Σ^{1/2}$, where $X=(x_{ij})$ is an $n imes N$ random matrix whose entries are independent random variables with mean zero and variance $N^{-1}$, and $Σ$ is a deterministic positive-definite covariance matrix. We study the limiting behavior of the eigenvectors of $Q$ through the so-called eigenvector empirical spectral distribution $F_{\mathbf v}$, which is an alternative form of empirical spectral distribution with weights given by $|\mathbf v^ op ξ_k|^2$, where $\mathbf v$ is a deterministic unit vector and $ξ_k$ are the eigenvectors of $Q$. We prove a functional central limit theorem for the linear spectral statistics of $F_{\mathbf v}$, indexed by functions with Hölder continuous derivatives. We show that the linear spectral statistics converge to some Gaussian processes both on global scales of order 1 and on local scales that are much smaller than 1 but much larger than the typical eigenvalue spacing $N^{-1}$. Moreover, we give explicit expressions for the covariance functions of the Gaussian processes, where the exact dependence on $Σ$ and $\mathbf v$ is identified for the first time in the literature.

研究动机与目标

• 研究在 $n \sim N$ 的高维设定下，各向异性样本协方差矩阵 $Q = \Sigma^{1/2}XX^\top\Sigma^{1/2}$ 的特征向量的渐近行为。
• 分析加权特征值的特征向量经验谱分布（VESD）$F_{\mathbf{v}}$，其中权重为 $|\langle \xi_k, \mathbf{v} \rangle|^2$，$\mathbf{v}$ 为固定单位向量。
• 在一般矩条件之下，为 $F_{\mathbf{v}}$ 的线性谱统计量建立功能性中心极限定理（CLT）。
• 首次显式推导出极限高斯过程的协方差函数，明确其对 $\Sigma$ 和 $\mathbf{v}$ 的依赖关系。

提出的方法

• 定义特征向量经验谱分布（VESD）$F_{\mathbf{v}}(x) = \sum_{k=1}^n |\langle \xi_k, \mathbf{v} \rangle|^2 \mathbf{1}_{\{\lambda_k \leq x\}}$，其中 $\xi_k$ 为 $Q$ 的特征向量，$\lambda_k$ 为特征值。
• 利用 $\Sigma^{1/2}X$ 的奇异值分解，将特征向量 $\xi_k$ 和特征值 $\lambda_k$ 表示为奇异向量和奇异值的形式。
• 通过鞅差分解和斯蒂尔杰斯变换的局部定律，控制 $F_{\mathbf{v}}$ 的线性统计量的波动。
• 在弱矩假设下，利用矩匹配和矩界，建立经验分布与极限分布之间的比较定理。
• 通过维克定理（Wick’s theorem）和矩收敛，推导出极限协方差函数，证明极限过程为零均值高斯过程。
• 利用赫夫勒-舍斯特兰德公式（Helffer-Sjöstrand formula），将 CLT 推广至具有赫尔德连续导数的一般测试函数。

实验结果

研究问题

• RQ1 在高维各向异性样本协方差矩阵中，特征向量经验谱分布 $F_{\mathbf{v}}$ 的线性谱统计量的渐近行为如何？
• RQ2 对于光滑测试函数 $f$，$\sum_{k=1}^n f(\lambda_k) |\langle \xi_k, \mathbf{v} \rangle|^2$ 的极限分布是什么？
• RQ3 极限高斯过程的协方差结构如何依赖于总体协方差矩阵 $\Sigma$ 和测试向量 $\mathbf{v}$？
• RQ4 即使在弱矩假设下，是否也能为全局和局部尺度的特征值统计量建立功能性中心极限定理？
• RQ5 线性统计量 $F_{\mathbf{v}}$ 的极限协方差函数的精确形式是什么？

主要发现

• 为特征向量经验谱分布 $F_{\mathbf{v}}$ 的线性谱统计量建立了功能性中心极限定理，证明其在全局和局部尺度上收敛于零均值高斯过程。
• 极限高斯过程具有显式协方差函数，其依赖于 $\Sigma$ 和 $\mathbf{v}$，并在文献中首次明确识别出这种依赖关系。
• 收敛性在弱矩条件下成立：$\mathbb{E}|x_{ij}|^2 = N^{-1}$ 且 $\mathbb{E}x_{ij} = 0$，更高阶矩通过次指数衰减受控。
• 在原假设 $\Sigma = I$ 下，VESD 的收敛速度为几乎必然的 $O(N^{-1/4 + \epsilon})$，优于先前的界。
• 对于具有赫尔德连续导数的测试函数，极限协方差函数被显式推导，显示出对 $\Sigma$ 的谱性质和方向 $\mathbf{v}$ 的依赖。
• 证明依赖于经验分布与极限分布之间的比较方法，误差界为 $O_{\prec}(N^{-\varepsilon})$（$\varepsilon > 0$），在矩条件 (2.21) 下成立。