[论文解读] The multilayer random dot product graph

A. Jones, Patrick Rubin‐Delanchy|arXiv (Cornell University)|Jul 20, 2020

Complex Network Analysis Techniques参考文献 40被引用 14

一句话总结

本文提出了多层随机点积图（ML-RDPG）模型，该模型统一了多个共享相同节点集的无向图与有向图联合嵌入至共享潜在空间的方法。该研究建立了谱嵌入收敛至潜在位置的理论结果，误差服从高斯分布，并在链接预测和社区检测任务中表现出优于单图及现有多种图方法的性能，尤其在网络安全应用中表现突出。

ABSTRACT

We present a comprehensive extension of the latent position network model known as the random dot product graph to accommodate multiple graphs -- both undirected and directed -- which share a common subset of nodes, and propose a method for jointly embedding the associated adjacency matrices, or submatrices thereof, into a suitable latent space. Theoretical results concerning the asymptotic behaviour of the node representations thus obtained are established, showing that after the application of a linear transformation these converge uniformly in the Euclidean norm to the latent positions with Gaussian error. Within this framework, we present a generalisation of the stochastic block model to a number of different multiple graph settings, and demonstrate the effectiveness of our joint embedding method through several statistical inference tasks in which we achieve comparable or better results than rival spectral methods. Empirical improvements in link prediction over single graph embeddings are exhibited in a cyber-security example.

研究动机与目标

• 将随机点积图模型扩展至处理多个共享相同节点集的无向图与有向图。
• 开发一种联合谱嵌入方法，以一致地估计多个图中的潜在位置。
• 建立在稀疏性条件下的节点表示渐近行为的理论保证。
• 将随机块模型推广至具有多样化连通模式的多层设置。
• 在链接预测等统计推断任务中，实现优于单图及竞争性多图方法的性能表现，尤其在网络安全场景中。

提出的方法

• 提出多层随机点积图（ML-RDPG）模型，其中每个图的邻接矩阵通过包含潜在位置向量与变换矩阵的核函数生成。
• 采用左、右两侧谱嵌入方法，联合估计多个图中的潜在位置，利用邻接矩阵的最大特征值。
• 建立理论收敛性：嵌入后的节点表示在欧氏范数下一致收敛至真实潜在位置，且渐近误差服从高斯分布。
• 引入广义多层随机块模型（GMSBM），用于建模多个图中具有不同聚集性与非聚集性的多样化社区结构。
• 使用切尔诺夫信息作为模型可区分性的度量，采用截断版本（$\rho_{\mathbf{A}}$）以简化大规模分析。
• 通过模拟实验与真实网络安全数据评估不同图组合及嵌入策略下的链接预测性能。

实验结果

研究问题

• RQ1 能否构建一个统一的潜在空间模型，以联合嵌入多个共享相同节点集的无向图与有向图？
• RQ2 多个图的谱嵌入是否能一致收敛至真实潜在位置？其渐近误差的性质如何？
• RQ3 与单图嵌入相比，整合多个图在链接预测与社区检测等统计推断任务中是否能提升性能？
• RQ4 不同图中社区结构与节点概率向量的差异对模型可区分性与性能有何影响？
• RQ5 所提出方法是否能在真实推断任务中优于现有多种图嵌入技术（如平均嵌入与全息嵌入）？

主要发现

• ML-RDPG的谱嵌入在欧氏范数下一致收敛至真实潜在位置，且渐近误差服从高斯分布，这是首个针对双分图的此类结果。
• 在计算机网络的链接预测任务中，联合嵌入方法在性能上优于单图嵌入，尤其在结合动态网络与端口特定数据时表现更优。
• 对于大规模GMSBM，截断的切尔诺夫信息（$\rho_{\mathbf{A}}$）可作为模型可区分性的可靠代理，当增加更多图时，$\rho_{\mathbf{A}}/\rho_{\mathbf{A}_{\mathcal{K}}}>1$ 的情形在至少73%的试验中成立。
• 该方法在社区检测与图比较任务中始终优于或至少匹配现有谱方法，即使在边概率矩阵具有不同特征值时也未出现退化问题。
• 平均而言，增加更多图能提升性能，尤其当潜在位置来自更多社区时提升更显著，且无论节点概率向量在图间是否共享，该优势均保持稳健。
• 在每次模拟试验中，至少存在一个嵌入子集的 $\rho_{\mathbf{A}}/\rho_{\mathbf{A}_{\mathcal{K}}}$ 比值高于完整模型，表明UASE的性能至少不差于最差的单个嵌入。