[论文解读] Tracy-Widom distribution for the edge eigenvalues of Gram type random matrices.

Xiucai Ding, Fan Yang|arXiv (Cornell University)|Aug 10, 2020

Random Matrices and Applications参考文献 97被引用 7

一句话总结

本文在近乎最优的矩条件和正则性假设下，建立了高维Gram型随机矩阵的边缘特征值的Tracy-Widom分布。通过长方体Dyson布朗运动证明了边缘普遍性，从而实现了在高维统计与机器学习中对信号检测、球形检验和块模型结构分析的自适应推断。

ABSTRACT

Large dimensional Gram type matrices are common objects in high-dimensional statistics and machine learning. In this paper, we study the limiting distribution of the edge eigenvalues for a general class of high-dimensional Gram type random matrices, including separable sample covariance matrices, sparse sample covariance matrices, bipartite stochastic block model and random Gram matrices with general variance profiles. Specifically, we prove that under (almost) sharp moment conditions and certain tractable regularity assumptions, the edge eigenvalues, i.e., the largest few eigenvalues of non-spiked Gram type random matrices or the extremal bulk eigenvalues of spiked Gram type random matrices, satisfy the Tracy-Widom distribution asymptotically. Our results can be used to construct adaptive, accurate and powerful statistics for high-dimensional statistical inference. In particular, we propose data-dependent statistics to infer the number of signals under general noise structure, test the one-sided sphericity of separable matrix, and test the structure of bipartite stochastic block model. Numerical simulations show strong support of our proposed statistics. The core of our proof is to establish the edge universality and Tracy-Widom distribution for a rectangular Dyson Brownian motion with regular initial data. This is a general strategy to study the edge statistics for high-dimensional Gram type random matrices without exploring the specific independence structure of the target matrices. It has potential to be applied to more general random matrices that are beyond the ones considered in this paper.

研究动机与目标

• 推导一类广泛高维Gram型随机矩阵的边缘特征值的极限分布。
• 在不依赖矩阵特定独立性结构的前提下，建立边缘普遍性与Tracy-Widom渐近行为。
• 在一般噪声和网络结构下，发展数据依赖的统计量以实现高维推断。
• 在高维设定下，实现对信号的精确检测、球形检验以及块模型结构检验。

提出的方法

• 通过分析具有正则初值的长方体Dyson布朗运动，推导出边缘普遍性。
• 采用一种通用策略，避免对矩阵元素特定独立性结构的依赖。
• 利用近乎最优的矩条件和可处理的正则性假设，确保渐近有效性。
• 推导出非脉冲和脉冲矩阵模型中极端特征值的Tracy-Widom分布。
• 提出数据驱动的检验统计量，用于信号数量估计、单侧球形检验和双分图随机块模型检验。
• 通过数值模拟验证方法，结果展现出强有力的实证支持。

实验结果

研究问题

• RQ1 在一般矩条件和正则性条件下，高维Gram型随机矩阵的边缘特征值是否收敛到Tracy-Widom分布？
• RQ2 能否在不利用矩阵元素特定独立性结构的前提下，建立边缘普遍性？
• RQ3 Tracy-Widom极限如何被用于构建高维设定下的自适应且强大的推断统计量？
• RQ4 所提出的框架能否在一般噪声结构下检测信号数量？
• RQ5 该方法能否用于检验可分协方差矩阵的单侧球形性以及双分图随机块模型的结构？

主要发现

• 在近乎最优的矩条件下，非脉冲Gram型矩阵的边缘特征值以及脉冲矩阵的极端本征值群特征值收敛到Tracy-Widom分布。
• 通过基于具有正则初值的长方体Dyson布朗运动的一般框架，建立了边缘普遍性。
• 该方法广泛适用于可分样本协方差矩阵、稀疏协方差矩阵、双分图随机块模型以及具有通用方差结构的随机Gram矩阵。
• 提出了用于信号数量检测、单侧球形检验和块模型结构推断的数据依赖统计量。
• 数值模拟证实了所提推断方法的强实证性能和鲁棒性。
• 由于其结构上的普遍性，该方法可推广至本文明确研究之外的其他随机矩阵类别。