[论文解读] Eigenvalue density of empirical covariance matrix for correlated samples

Z. Burda, J. Jurkiewicz+1 more|ArXiv.org|Aug 19, 2005

Random Matrices and Applications被引用 4

一句话总结

本文提出了一种方法，用于在样本相关时计算经验协方差矩阵的特征值密度，推广了 Marcenko-Pastur 定律。利用生成函数和预解方法，推导出在 $N\to\infty$，$N/T=r=\text{const}$ 的极限下，谱密度的精确方程，表明样本之间的相关性实际上会重整化比率 $r$ 并缩放谱，从而能够在相关设定下准确预测特征值分布。

ABSTRACT

We describe a method to determine the eigenvalue density of empirical covariance matrix in the presence of correlations between samples. This is a straightforward generalization of the method developed earlier by the authors for uncorrelated samples. The method allows for exact determination of the experimental spectrum for a given covariance matrix and given correlations between samples in the limit of large N and N/T=r=const with N being the number of degrees of freedom and T being the number of samples. We discuss the effect of correlations on several examples.

研究动机与目标

• 将 Marcenko-Pastur 定律扩展到样本相关而非仅不相关的情形。
• 提供一种在已知真实协方差矩阵和样本相关结构时，精确计算经验协方差矩阵特征值密度的方法。
• 证明相关样本可被有效映射到一个具有重整化 $r$ 参数的等效不相关 Wishart 集合。
• 在存在时间相关性的应用（如金融和电信）中实现准确的谱预测。

提出的方法

• 基于 Wishart 集合的公式体系，采用联合高斯测度，包含样本相关矩阵 $\mathbf{A}$ 和真实协方差 $\mathbf{C}$。
• 使用生成函数 $M_{\mathbf{C}}(z)$、$M_{\mathbf{A}}(z)$ 和 $m_{\mathbf{c}}(z)$ 分别表示 $\mathbf{C}$、$\mathbf{A}$ 和经验协方差 $\mathbf{c}$ 的谱矩。
• 推导出两个关键方程，通过辅助变量 $Z$ 将 $m_{\mathbf{c}}(z)$ 与 $z$ 关联，涉及 $M_{\mathbf{C}}(Z)$ 和 $M_{\mathbf{A}}(z)$ 的逆函数。
• 计算预解 $g_{\mathbf{c}}(z) = (m_{\mathbf{c}}(z) + 1)/z$，并随后通过 $\rho_{\mathbf{c}}(x) = -\frac{1}{\pi}\text{Im}\,g_{\mathbf{c}}(x+i0^+)$ 提取特征值密度。
• 对小 $r$ 的渐近展开表明，$\mathbf{A}$ 的影响等价于将 $r$ 按 $\mu_1 = M_{\mathbf{A}2}/(M_{\mathbf{A}1})^2$ 进行缩放。
• 通过与缩放后的 Wishart 谱进行数值比较验证，证实了在小 $r$ 条件下有效 $r$-重整化。

实验结果

研究问题

• RQ1 样本之间的时间相关性如何影响经验协方差矩阵的特征值分布？
• RQ2 当已知真实协方差和相关结构时，能否精确计算相关样本下经验协方差矩阵的特征值密度？
• RQ3 在多大程度上可以将相关样本映射到一个具有修正 $r$ 参数的等效不相关 Wishart 集合？
• RQ4 样本相关性对经验协方差谱的边缘和主体部分有何定量影响？

主要发现

• 对于小的 $r = N/T$，具有相关样本的经验协方差矩阵的特征值密度可由 Marcenko-Pastur 定律在有效 $r' = r \cdot \mu_1$ 的不相关集合上良好近似，其中 $\mu_1 = M_{\mathbf{A}2}/(M_{\mathbf{A}1})^2$。
• 当 $\mathbf{C} = \mathbf{1}$ 时，$\rho_{\mathbf{c}}(x)$ 的左谱边缘 $x_-$ 满足 $x_- \approx 1 - \sqrt{r'}$，证实了有效 $r$-重整化。
• 数值结果表明，当 $r \lesssim 0.1$ 时，相关样本的谱与缩放后的 Wishart 谱高度一致，验证了有效 $r$-重整化。
• 该方法可通过关联 $m_{\mathbf{c}}(z)$、$z$ 和 $Z$ 的两个方程，结合 $M_{\mathbf{A}}^{-1}$ 用于反演生成函数，精确计算任意给定 $\mathbf{C}$ 和 $\mathbf{A}$ 的 $\rho_{\mathbf{c}}(x)$。
• 相关性的影响完全由生成函数 $M_{\mathbf{A}}(z)$ 捕获，谱通过 $M_{\mathbf{A}1}$ 缩放，其作为归一化因子发挥作用。
• 该方法适用于现实世界问题，如具有短期相关收益的组合优化和随机介质中的信号传播。