[论文解读] Smallest singular value and limit eigenvalue distribution of a class of non-Hermitian random matrices with statistical application

Arup Bose, Walid Hachem|arXiv (Cornell University)|Dec 18, 2018

Random Matrices and Applications参考文献 43被引用 15

一句话总结

该论文建立了非厄米随机矩阵 $XAX^* - z$ 的最小奇异值的渐近界，其中 $X$ 的元素为独立同分布，方差为 $1/n$ 且四阶矩有限，$A$ 为奇异值有界的确定性矩阵。通过块矩阵 $H^{(n)}$ 的线性化方法，证明了最小奇异值以高概率远离零，从而推导出 $XJX^*$ 的极限谱分布，其中 $J$ 为循环移位矩阵。该结果被应用于基于一步样本自协方差矩阵的多元时间序列白噪声检验。

ABSTRACT

Suppose $X$ is an $N \ imes n$ complex matrix whose entries are centered, independent, and identically distributed random variables with variance $1/n$ and whose fourth moment is of order ${\\mathcal O}(n^{-2})$. In the first part of the paper, we consider the non-Hermitian matrix $X A X^* - z$, where $A$ is a deterministic matrix whose smallest and largest singular values are bounded below and above respectively, and $z\ eq 0$ is a complex number. Asymptotic probability bounds for the smallest singular value of this model are obtained in the large dimensional regime where $N$ and $n$ diverge to infinity at the same rate. In the second part of the paper, we consider the special case where $A = J = [1_{i-j = 1\\mod n} ]$ is a circulant matrix. Using the result of the first part, it is shown that the limit eigenvalue distribution of $X J X^*$ exists in the large dimensional regime, and we determine this limit explicitly. A statistical application of this result devoted towards testing the presence of correlations within a multivariate time series is considered. Assuming that $X$ represents a ${\\mathbb C}^N$-valued time series which is observed over a time window of length $n$, the matrix $X J X^*$ represents the one-step sample autocovariance matrix of this time series. Guided by the result on the limit spectral measure of this matrix, a whiteness test against an MA correlation model on the time series is introduced. Numerical simulations show the excellent performance of this test.

研究动机与目标

• 在 $N/n \to \gamma \in (0, \infty)$ 的高维渐近情形下，建立 $X^{(n)}A^{(n)}{X^{(n)}}^{*} - zI_N$ 的最小奇异值的高概率界。
• 在相同的渐近框架下，分析 $X^{(n)}J^{(n)}{X^{(n)}}^{*}$ 的极限谱分布，其中 $J^{(n)}$ 为循环移位矩阵。
• 基于 $XJX^*$ 的极限谱分布，提出一种用于检测多元时间序列白噪声的统计检验方法。
• 确保理论框架在矩阵 $X$ 具有非 i.i.d. 但结构化依赖关系时依然稳健，特别是当元素非实值时（通过假设 3）。

提出的方法

• 通过块矩阵 $H^{(n)} = \begin{bmatrix} (A^{(n)})^{-1} & X^{(n)\top} \\ X^{(n)} & z \end{bmatrix}$ 对矩阵 $X^{(n)}A^{(n)}{X^{(n)}}^{*} - zI_N$ 进行线性化，将问题转化为对 $H^{(n)}$ 的最小奇异值的界的控制。
• 应用矩阵求逆公式，将 $\|(X^{(n)}A^{(n)}{X^{(n)}}^{*} - zI_N)^{-1}\|$ 与 $\|H^{(n)}{-1}\|$ 关联，从而控制原矩阵的最小奇异值。
• 利用复高斯浓度不等式与 Poincaré-Nash 不等式，对谱函数的线性统计量的方差进行控制，确保迹型泛函的测度集中性。
• 证明 $\mathbb{E}[\|X\|] \leq C$ 以高概率成立，该结果用于将奇异值界条件化于谱范数之上。
• 推导出 $\mathbb{P}[s_{N-1}(X^{(n)}A^{(n)}{X^{(n)}}^{*} - z) \leq t, \|X\| \leq C] \leq c(n^{\alpha}t^{1/2} + n^{-\beta})$，其中 $\alpha, \beta > 0$，表明最小奇异值不太可能过小。
• 利用极限谱分布结果，基于 $XJX^*$ 的经验特征值分布构造检验统计量，通过与理论极限比较来检验多元时间序列中的相关性。

实验结果

研究问题

• RQ1 当 $X$ 的元素为独立同分布、方差为 $1/n$ 且四阶矩有限时，$X^{(n)}A^{(n)}{X^{(n)}}^{*} - zI_N$ 的最小奇异值的渐近概率界是什么？
• RQ2 在高维渐近情形 $N/n \to \gamma \in (0, \infty)$ 下，$X^{(n)}J^{(n)}{X^{(n)}}^{*}$ 的极限谱分布是否存在？若存在，其显式形式为何？
• RQ3 能否利用 $XJX^*$ 的极限谱分布构造一种统计检验方法，以检测多元时间序列中的序列相关性？
• RQ4 假设 $x_{00}^{(n)}$ 非实数（假设 3）如何影响最小奇异值的行为以及由此产生的谱极限？
• RQ5 $XJX^*$ 的经验谱分布收敛到其极限分布的收敛速率是多少？这对所提出的白噪声检验统计功效有何影响？

主要发现

• 在高概率下，$X^{(n)}A^{(n)}{X^{(n)}}^{*} - zI_N$ 的最小奇异值远离零：$\mathbb{P}[s_{N-1}(X^{(n)}A^{(n)}{X^{(n)}}^{*} - z) \leq t, \|X\| \leq C] \leq c(n^{\alpha}t^{1/2} + n^{-\beta})$，其中 $\alpha, \beta > 0$，且常数 $c$ 仅依赖于 $C$、$z$ 和四阶矩上界 $\boldsymbol{m}_4$。
• 在高维渐近情形 $N/n \to \gamma \in (0, \infty)$ 下，$X^{(n)}J^{(n)}{X^{(n)}}^{*}$ 的极限谱分布存在，并被显式刻画为一个确定性测度，其极限形式依赖于 $J^{(n)}$ 的循环结构。
• 在白噪声零假设下，$XJX^*$ 的经验特征值分布弱收敛于所推导的极限分布，其中 $XJX^*$ 表示多元时间序列的一期样本自协方差矩阵。
• 提出了一种基于 $XJX^*$ 的经验谱分布与理论极限比较的新白噪声检验方法；数值模拟验证了其高功效与稳健性。
• 线性谱统计量（如 $n^{-1}\operatorname{tr}Q_{00}$ 和 $x_k^*Q_{00}x_\ell$）的方差分别被证明为 $\mathcal{O}_\eta(n^{-2})$ 和 $\mathcal{O}_\eta(n^{-1})$，确保了谱统计量的集中性与稳定性。
• 基于线性化与测度集中性的证明方法对 $X$ 中的结构化依赖关系具有鲁棒性，可推广至非 i.i.d. 模型，尤其在非实值假设（假设 3）下，可避免退化为实值 i.i.d. 矩阵。