[论文解读] The Random Matrix Regime of Maronna's M-estimator with elliptically distributed samples

Romain Couillet, Frédéric Pascal+1 more|arXiv (Cornell University)|Nov 27, 2013

Random Matrices and Applications被引用 10

一句话总结

该论文证明，当总体维数 $N$ 和样本量 $n$ 以相同速率同时趋于无穷大时，Maronna 的 M-估计器在稳健散度矩阵估计中表现出渐近类似于经典随机矩阵模型的行为。在椭球分布假设下，该估计器几乎必然以谱范数收敛到经典随机矩阵系综中的一类矩阵，其极限特征值分布亦被推导出来。

ABSTRACT

This article demonstrates that the robust scatter matrix estimator $\\hat{C}_N\\in {\\mathbb C}^{N\ imes N}$ of a multivariate elliptical population $x_1,\\ldots,x_n\\in {\\mathbb C}^N$ originally proposed by Maronna in 1976, and defined as the solution (when existent) of an implicit equation, behaves similar to a well-known random matrix model in the limiting regime where the population $N$ and sample $n$ sizes grow at the same speed. We show precisely that $\\hat{C}_N\\in{\\mathbb C}^{N\ imes N}$ is defined for all $n$ large with probability one and that, under some light hypotheses, $\\Vert \\hat{C}_N-\\hat{S}_N\\Vert\ o 0$ almost surely in spectral norm, where $\\hat{S}_N$ follows a classical random matrix model. As a corollary, the limiting eigenvalue distribution of $\\hat{C}_N$ is derived. This analysis finds applications in the fields of statistical inference and signal processing.

研究动机与目标

• 分析当 $N$ 和 $n$ 按比例增长的高维情形下，Maronna 的 M-估计器在稳健散度矩阵估计中的渐近行为。
• 在椭球分布假设下，建立估计器几乎必然收敛到经典随机矩阵模型的结论。
• 利用随机矩阵理论工具，推导出稳健估计器的极限谱分布。
• 将先前针对独立同分布元素模型的研究结果推广至更一般的椭球分布情形，提升其在信号处理和统计推断中的适用性。

提出的方法

• 在椭球对称性假设下，将稳健散度估计器形式化为一个隐式不动点方程的解。
• 应用大维随机矩阵理论，分析在 $N,n \to \infty$ 且 $c_N = N/n$ 有界的极限下估计器的谱性质。
• 利用秩一扰动和迹矩不等式，控制经验谱分布的偏差。
• 采用酉不变向量模型和集中性论证，处理椭球样本中非高斯、重尾的结构。
• 依赖函数 $\phi(x) = x u(x)$ 的单调递增性，以确保不动点解的稳定性和唯一性。
• 建立谱范数几乎必然收敛 $\|\hat{C}_N - \hat{S}_N\| \to 0$，其中 $\hat{S}_N$ 为经典随机矩阵模型。

实验结果

研究问题

• RQ1 当总体维数 $N$ 和样本量 $n$ 以相同速率同时趋于无穷大时，Maronna 的 M-估计器的渐近行为如何？
• RQ2 在何种条件下，稳健估计器 $\hat{C}_N$ 几乎必然收敛到经典随机矩阵模型？
• RQ3 在椭球分布下，稳健散度矩阵估计器的极限特征值分布是什么？
• RQ4 能否在高维情形下，利用概率工具严格证明估计器收敛到经典模型？
• RQ5 椭球分布的结构相较于 i.i.d. 模型，如何影响 M-估计器的谱性质？

主要发现

• 在给定的渐近框架下，估计器 $\hat{C}_N$ 几乎必然对所有充分大的 $n$ 有定义。
• $\|\hat{C}_N - \hat{S}_N\| \to 0$ 几乎必然以谱范数收敛，其中 $\hat{S}_N$ 服从经典随机矩阵模型。
• $\hat{C}_N$ 的极限特征值分布与 $\hat{S}_N$ 相同，继承其 Marčenko-Pastur 型极限分布。
• 该收敛性在椭球分布的较弱矩条件（包括有限四阶矩）下成立。
• 分析结果确认，稳健估计器继承了经典随机矩阵的谱行为，验证了其在高维推断中的适用性。
• 研究结果将先前针对 i.i.d. 模型的发现推广至更一般的椭球分布情形，显著拓宽了其在信号处理和高维统计中的应用范围。