[论文解读] The mutual affinity of random measures

M. Fannes, Pascal Spincemaille|ArXiv.org|Dec 17, 2001

Random Matrices and Applications参考文献 4被引用 5

一句话总结

本文通过分析由成对 Hellinger 相似度定义的 Gram 矩阵的特征值谱，研究了在有限事件空间上随机选取的概率测度之间的相互相似性。证明了当测度数量 $ K $ 与事件空间大小 $ N $ 同时趋于无穷，且满足 $ K/N \to \tau $ 时，Gram 矩阵的经验特征值分布几乎必然收敛到 Marchenko-Pastur 分布，从而为随机相似性结构建立了普适的极限规律。

ABSTRACT

We consider a set of probability measures on a finite event space $Ω$. The mutual affinity is introduced in terms of the spectrum of the associated Gram matrix. We show that, for randomly chosen measures, the empirical eigenvalue distribution of the Gram matrix converges to a fixed distribution in the limit where the number of measures, together with the cardinality of $Ω$, goes to infinity.

研究动机与目标

• 理解在有限事件空间上随机选取的大量概率测度之间相互相似性的统计行为。
• 刻画由这些测度之间成对 Hellinger 相似度构成的 Gram 矩阵的极限谱分布。
• 在测度数量 $ K $ 与事件空间大小 $ N $ 同时趋于无穷且满足 $ K/N \to \tau $ 的条件下，建立经验特征值分布几乎必然收敛到确定性极限的结论。

提出的方法

• 两个概率测度之间的相互相似性通过其概率向量的平方根的内积来定义，从而得到一个对称的半正定 Gram 矩阵 $ G $，其元素为 $ A(\boldsymbol{\mu}_i, \boldsymbol{\mu}_j) = \sum_{\alpha=1}^N \sqrt{\mu_{i\alpha}\mu_{j\alpha}} $。
• 在 $ N \to \infty $，$ K(N) \to \infty $，且 $ K/N \to \tau > 0 $ 的极限下，分析经验特征值分布 $ \rho_K(x) = \frac{1}{K}\sum_{i=1}^K \delta(x - \lambda_i) $。
• 利用 Stieltjes 变换计算经验特征值分布的极限期望，从而将其识别为 Marchenko-Pastur 分布。
• 通过集中不等式和 Borel-Cantelli 引理证明了几乎必然收敛，其依据是基于指数矩推导出的随机变量和的尾部界。
• 利用关于单纯形上随机向量的归一化 $ \ell^2 $-范数的尾部分布的引理，控制特征值分布中的偏差。
• 分析类比于 Wishart 随机矩阵理论，其中 $ A^*A/K $ 对于 i.i.d. 标准正态矩阵会导出 Marchenko-Pastur 定律。

实验结果

研究问题

• RQ1 当 $ N, K \to \infty $ 时，$ K $ 个在 $ N $ 元事件空间上随机选取的概率测度之间成对 Hellinger 相似度所构成的 Gram 矩阵的极限谱分布是什么？
• RQ2 当 $ K/N \to \tau $ 且 $ \tau > 0 $ 固定时，该相似性 Gram 矩阵的经验特征值分布如何表现？
• RQ3 在大 $ N $、大 $ K $ 的情形下，经验特征值分布是否几乎必然收敛到一个确定性极限？
• RQ4 该相似性 Gram 矩阵的谱性质与单纯形上随机概率测度的内在结构之间有何联系？
• RQ5 在不涉及经典 Wishart 矩阵的设定下，随机概率测度与 Hellinger 相似度能否导致 Marchenko-Pastur 分布的出现？

主要发现

• 该相似性 Gram 矩阵的经验特征值分布的极限期望收敛到 Marchenko-Pastur 分布 $ \rho_{\mathrm{MP}}(x,\tau) $，其依赖于比值 $ \tau = \lim K/N $。
• Marchenko-Pastur 密度为 $ \sigma(x,\tau) = \frac{\sqrt{4\tau x - (x + \tau - 1)^2}}{2\pi\tau x} $，在区间 $ (1 - \sqrt{\tau})^2 \leq x \leq (1 + \sqrt{\tau})^2 $ 内成立，其余位置为零。
• 经验特征值分布向 Marchenko-Pastur 定律的收敛是几乎必然的，而不仅是在期望意义下，该结论通过集中不等式和 Borel-Cantelli 引理得到证明。
• 证明依赖于对单纯形上均匀分布的随机向量的 $ \ell^2 $-范数的指数尾部界，这些界由指数分布的性质推导而来。
• 该极限谱律具有普适性，即其不依赖于测度的具体分布，仅依赖于其在单纯形上的均匀性。
• 该结果在随机概率测度与随机矩阵理论之间建立了非平凡的联系，表明即使在不同于经典 Wishart 矩阵的设定下，相同的极限谱律依然会出现。