[论文解读] Efficient Estimation for Random Dot Product Graphs via a One-Step Procedure

Fangzheng Xie, Yanxun Xu|arXiv (Cornell University)|Oct 10, 2019

Complex Network Analysis Techniques参考文献 50被引用 5

一句话总结

本文提出了一种用于随机点积图中潜在位置的一步估计器，结合了低秩结构和伯努利似然信息，实现了渐近效率估计。该方法在全局上通过更小的平方误差和，在局部上通过主导谱嵌入的渐近协方差矩阵，优于传统谱嵌入方法，且具有可证明的渐近正态性与有效的置信区间。

ABSTRACT

We propose a one-step procedure to estimate the latent positions in random dot product graphs efficiently. Unlike the classical spectral-based methods, the proposed one-step procedure takes advantage of both the low-rank structure of the expected adjacency matrix and the Bernoulli likelihood information of the sampling model simultaneously. We show that for each vertex, the corresponding row of the one-step estimator (OSE) converges to a multivariate normal distribution after proper scaling and centering up to an orthogonal transformation, with an efficient covariance matrix. The initial estimator for the one-step procedure needs to satisfy the so-called approximate linearization property. The OSE improves the commonly adopted spectral embedding methods in the following sense: Globally for all vertices, it yields an asymptotic sum of squares error no greater than those of the spectral methods, and locally for each vertex, the asymptotic covariance matrix of the corresponding row of the OSE dominates those of the spectral embeddings in spectra. The usefulness of the proposed one-step procedure is demonstrated via numerical examples and the analysis of a real-world Wikipedia graph dataset.

研究动机与目标

• 开发一种比经典谱方法更高效的随机点积图中潜在位置估计器。
• 将期望邻接矩阵的低秩结构与边生成的伯努利似然信息整合到统一的估计框架中。
• 建立所提估计器的渐近正态性与效率，为单个潜在位置提供有效的置信区间。
• 在平方误差和渐近协方差方面，证明该方法优于邻接矩阵与拉普拉斯谱嵌入。
• 提供一种实用且可扩展的网络数据分析统计推断方法，适用于聚类、分类与假设检验。

提出的方法

• 一步法从满足近似线性化性质的初始估计器出发，随后通过引入观测边的伯努利似然信息，采用准似然方法进行优化。
• 通过求解一个平衡低秩结构与边生成概率模型的得分方程来构建估计器。
• 在适当缩放与中心化后，每个顶点的潜在位置估计量的渐近正态性得以证明，结果最多相差一个正交变换。
• 证明了一步估计器的渐近协方差矩阵是高效的，并在谱范数下优于邻接矩阵与拉普拉斯谱嵌入的协方差矩阵。
• 基于一步估计器估计的渐近方差，构建了单个潜在位置的置信区间。
• 该方法被应用于邻接谱嵌入（OSE-A）与拉普拉斯谱嵌入（OSE-L）框架中，并通过理论与数值实验进行了验证。

实验结果

研究问题

• RQ1 一步谱估计器的精炼能否在随机点积图的潜在位置估计中实现渐近效率？
• RQ2 结合低秩结构与伯努利似然信息是否能相比经典谱方法降低均方误差？
• RQ3 一步估计器的渐近分布是否为多变量正态分布，且具有高效协方差矩阵？
• RQ4 一步估计器能否生成经验覆盖概率接近名义水平的、逐顶点的有效置信区间？
• RQ5 在所有顶点的平方误差与渐近方差方面，一步估计器相较于谱嵌入表现如何？

主要发现

• 一步估计器对每个顶点的潜在位置估计量均实现渐近正态性，经缩放与中心化后，其极限分布为多变量正态分布，最多相差一个正交变换。
• 一步估计器的渐近协方差矩阵是高效的，并在谱范数下优于邻接矩阵与拉普拉斯谱嵌入的协方差矩阵，表明其具有更优的局部估计精度。
• 在全局范围内，一步估计器的平方误差严格小于邻接矩阵与拉普拉斯谱嵌入的平方误差，模拟结果在0.01显著性水平下具有统计显著性。
• 数值实验表明，基于一步估计器构建的逐顶点95%置信区间的经验覆盖概率接近名义的95%水平。
• 该方法成功构建了潜在位置与归一化拉普拉斯嵌入的有效置信区间，其方差可由一步估计器一致估计。
• 对真实维基百科图数据集的分析进一步证明了所提一步方法的实际效用与鲁棒性。