[论文解读] Spectral density of random graphs: convergence properties and application in model fitting

Catherine Matias|arXiv (Cornell University)|Jan 1, 2021

Random Matrices and Applications参考文献 59被引用 6

一句话总结

该论文通过用经验谱密度与极限谱密度之间的ℓ1距离替代Kullback-Leibler散度，在随机图理论中为通用模型拟合过程建立了理论一致性。它证明了在经验谱分布弱收敛、映射的单射性、连续性以及参数空间紧致性的条件下，估计参数以概率收敛于真实值——为基于谱密度的模型拟合与选择提供了首个理论基础，适用于多种随机图模型。

ABSTRACT

Random graph models are used to describe the complex structure of real-world networks in diverse fields of knowledge. Studying their behaviour and fitting properties are still critical challenges that, in general, require model-specific techniques. An important line of research is to develop generic methods able to fit and select the best model among a collection. Approaches based on spectral density (i.e. distribution of the graph adjacency matrix eigenvalues) appeal to that purpose: they apply to different random graph models. Also, they can benefit from the theoretical background of random matrix theory. This work investigates the convergence properties of model fitting procedures based on the graph spectral density and the corresponding cumulative distribution function. We also review the convergence of the spectral density for the most widely used random graph models. Moreover, we explore through simulations the limits of these graph spectral density convergence results, particularly in the case of the block model, where only partial results have been established. random graphs, spectral density, model fitting, model selection, convergence.

研究动机与目标

• . 在随机图中建立基于谱密度的模型拟合的理论一致性。
• . 解决随机图理论中缺乏通用、模型无关的参数估计与模型选择方法的问题。
• . 通过用ℓ1距离替代Kullback-Leibler散度，为Takahashi等人（2021年）提出的程序提供理论依据。
• . 探索主要随机图模型（包括ER、SBM、WS、BA和GRG）中经验谱分布（ESD）的收敛性。
• . 通过模拟和真实数据评估基于ESD与累积分布函数（CDF）的拟合程序的性能。

提出的方法

• . 以邻接矩阵特征值的经验谱分布（ESD）为核心统计对象。
• . 在Takahashi等人（2021年）的基础上，用ℓ1距离替代Kullback-Leibler散度，以确保理论可处理性。
• . 在三个关键假设下证明了参数估计量的一致性：ESD的弱收敛性、从参数空间到极限谱分布的映射的单射性与连续性，以及参数空间的紧致性。
• . 利用随机测度的弱收敛性及特征值的分布收敛性来建立渐近性质。
• . 当极限谱分布无解析形式时，使用蒙特卡洛方法近似极限谱分布。
• . 通过在ER、WS、BA、GRG和SBM模型上的模拟实验，比较基于ESD与CDF的拟合程序的性能。

实验结果

研究问题

• RQ1 . 在一般条件下，经验谱分布与极限谱分布之间ℓ1距离的最小化器是否以概率收敛于真实参数？
• RQ2 . 当用ℓ1距离替代Kullback-Leibler散度时，能否建立基于谱密度的模型拟合的理论一致性？
• RQ3 . 经验谱分布的收敛性质在Erdős–Rényi、随机块、Watts-Strogatz、Barabási-Albert和几何随机图等主要随机图模型中如何变化？
• RQ4 . 在参数估计精度与收敛速度方面，基于ESD的拟合与基于CDF的拟合程序相比表现如何？
• RQ5 . 所提出的方法能否推广至其他图矩阵（如拉普拉斯矩阵或归一化拉普拉斯矩阵）？

主要发现

• . 在弱收敛性、单射性、连续性与紧致性假设下，经验谱分布与极限谱分布之间ℓ1距离的最小化器是真实模型参数的一致估计量。
• . 理论结果对使用特征值的累积分布函数（CDF）替代谱密度也具有鲁棒性，且收敛性质相似。
• . 模拟结果表明，对于Erdős–Rényi图，基于ESD的拟合收敛更快；而对于Barabási-Albert与几何随机图，基于CDF的拟合表现更优，尤其在ESD估计中带宽选择困难时更为显著。
• . 当极限谱分布无解析形式时，通过蒙特卡洛方法近似ESD可实现一致的参数估计，且随着图规模增大，收敛性进一步改善。
• . 基于谱密度之间ℓ1距离的模型选择程序在大规模图中对正确模型的识别率达到100%，尽管在某些参数下可能出现模型不可区分的情况（如ER图与d-正则图）。
• . 该方法的计算成本在存在解析极限谱分布时为O(n³)，在使用蒙特卡洛近似时为O(n³|Θ̃|M)，但通过使用快速谱近似方法可降低至O(|E|)或O(|E||Θ̃|M)，表明其具有良好的可扩展性潜力。