[论文解读] On the Rate of Convergence to the Marchenko--Pastur Distribution

Friedrich Götze, А. Н. Тихомиров|arXiv (Cornell University)|Oct 6, 2011

Random Matrices and Applications参考文献 16被引用 15

一句话总结

本文在次指数尾部条件下，建立了样本协方差矩阵的经验谱分布向 Marchenko–Pastur 法律收敛的速率。通过递归论证和大偏差界，证明了 Kolmogorov 距离以高概率被限制在 $ O(n^{-1}  \beta_n^4) $ 以内，其中 $ \beta_n = (\log n \cdot (\log \log n)^\alpha)^{1/\varkappa + 1} $，在更强的矩假设下，优于以往的 $ O(n^{-1/2}) $ 收敛速率。

ABSTRACT

Let $\mathbf X=(X_{jk})$ denote $n imes p$ random matrix with entries $X_{jk}$, which are independent for $1\le j\le n,1\le k\le p$. We consider the rate of convergence of empirical spectral distribution function of the matrix $\mathbf W=\frac1p\mathbf X\mathbf X^*$ to the Marchenko--Pastur law. We assume that $\mathbf E X_{jk}=0$, $\mathbf E X_{jk}^2=1$ and that the distributions of the matrix elements $X_{jk}$ have a uniformly sub exponential decay in the sense that there exists a constant $\varkappa>0$ such that for any $1\le j \le n,\,1\le k\le p $ and any $t\ge 1$ we have $$ \mathbf{ Pr}\{|X_{jk}|>t\}\le \varkappa^{-1}\exp\{-t^{\varkappa}\}. $$ By means of a recursion argument it is shown that the Kolmogorov distance between the empirical spectral distribution of the sample covariance matrix $\mathbf W$ and the Marchenko--Pastur distribution is of order $O(n^{-1}\log^{4+\frac4{\varkappa}} n)$ with high probability.

研究动机与目标

• 在次指数尾部条件下，建立样本协方差矩阵的经验谱分布函数向 Marchenko–Pastur 分布收敛的速率。
• 通过引入高阶对数修正项和尾部衰减参数，改进现有 $ O(n^{-1/2}) $ 收敛速率。
• 推导经验分布与极限谱分布之间 Kolmogorov 距离的高概率界。
• 将分析扩展至特征向量去局域化及 Stieltjes 变换收敛，以支持随机矩阵理论中的稳健推断。

提出的方法

• 基于响应函数方法和 Stieltjes 变换技术，采用递归论证，以控制 $ \mathbf{W} = \frac{1}{p}\mathbf{X}\mathbf{X}^* $ 的谱分布。
• 通过谱分布函数的对称化，将结果扩展至复平面，并分析 Stieltjes 变换 $ m_n(z) $。
• 引入截断随机变量 $ \widehat{X}_{jk} $ 和 $ \widetilde{X}_{jk} $ 以控制尾部行为，并应用大偏差不等式。
• 应用集中度界和类似鞅的不等式，以控制经验 Stieltjes 变换与期望 Stieltjes 变换之间的差异。
• 对谱参数 $ z = u + iv $ 进行二元分解，其中 $ v_k $ 按几何级数递减，以实现误差分析的局部化。
• 通过泰勒展开和导数控制，建立对角元和误差项 $ \Lambda_n(z) = \widetilde{m}_n(z) - S_y(z) $ 的一致界。

实验结果

研究问题

• RQ1 在次指数尾部条件下，样本协方差矩阵的经验谱分布向 Marchenko–Pastur 法律收敛的最优速率是什么？
• RQ2 收敛速率如何依赖于尾部衰减参数 $ \varkappa $ 和对数修正项？
• RQ3 能否建立优于经典 $ O(n^{-1/2}) $ 速率的 Kolmogorov 距离的高概率界？
• RQ4 在次指数尾部条件下，样本协方差矩阵的特征向量在多大程度上实现去局域化？
• RQ5 经验谱测度的 Stieltjes 变换向极限 Stieltjes 变换的收敛速率是多少？

主要发现

• 以高概率，经验谱分布 $ \mathcal{F}_n(x) $ 与 Marchenko–Pastur 法律 $ G_y(x) $ 之间的 Kolmogorov 距离被限制在 $ O(n^{-1} \beta_n^4) $ 以内，其中 $ \beta_n = (\log n \cdot (\log \log n)^\alpha)^{1/\varkappa + 1} $。
• 以高概率，特征向量矩阵的最大元素满足 $ \max_{j,k} |u_{jk}|^2 \leq \frac{\beta_n^4}{n} $，表明具有强烈的去局域化特性。
• 特征向量元素的累积分布满足 $ \left| \sum_{\nu=1}^k |u_{j\nu}|^2 - \frac{k}{n} \right| \leq \frac{\beta_n^2}{\sqrt{n}} $，以高概率成立。
• Stieltjes 变换误差 $ |\widetilde{m}_n(z) - S_y(z)| $ 以高概率被限制在 $ O(n^{-2}v^{-2}) $ 以内，当 $ v \geq v_0 = A_0 n^{-1} \beta_n^4 $ 时成立。
• 与以往的 $ O(n^{-1/2}) $ 界相比，收敛速率显著提升，尤其在具有次指数衰减的重尾分布中表现更优。
• 结果在复平面的二元划分上一致成立，并通过局部化技术扩展至谱支撑的边缘。