[论文解读] The Multiple Random Dot Product Graph Model

Agnes Martine Nielsen, Daniela Witten|arXiv (Cornell University)|Nov 29, 2018

Complex Network Analysis Techniques参考文献 12被引用 14

一句话总结

该论文提出了多重随机点积图（multi-RDPG）模型，作为MREG模型的改进扩展，通过在相同节点集上的多个图中强制实施潜在向量的半正定性和正交性。该模型引入了一种带有正交Procrustes更新的交替最小化算法，并提出了一项假设检验方法，用于检测不同图之间的分布差异，在模拟数据及Wikipedia和秀丽隐杆线虫网络的真实数据上均表现出更优的拟合与推断性能。

ABSTRACT

Data in the form of graphs, or networks, arise naturally in a number of contexts; examples include social networks and biological networks. We are often faced with the availability of multiple graphs on a single set of nodes. In this article, we propose the multiple random dot product graph model for this setting. Our proposed model leads naturally to an optimization problem, which we solve using an efficient alternating minimization approach. We further use this model as the basis for a new test for the hypothesis that the graphs come from a single distribution, versus the alternative that they are drawn from different distributions. We evaluate the performance of both the fitting algorithm and the hypothesis test in several simulation settings, and demonstrate empirical improvement over existing approaches. We apply these new approaches to a Wikipedia data set and a C. elegans data set.

研究动机与目标

• 为解决现有模型在处理相同节点集上多个图时的局限性，特别是当图并非同分布时的问题。
• 开发一种统计上严谨的模型，将随机点积图模型推广至多个图，同时保持可解释性与半正定性。
• 提出一种高效的优化算法，可同时估计具有跨维度正交性的潜在向量。
• 实现对多个图是否源自相同潜在分布或不同分布的统计检验。
• 在合成数据和真实世界网络（包括Wikipedia和秀丽隐杆线虫蛋白相互作用数据）上评估模型性能。

提出的方法

• 将multi-RDPG模型作为MREG的改进，要求所有 $ k $ 的潜在权重矩阵 $ W^k = U\tilde{\Lambda}^k U^T $ 均为半正定，确保当 $ K=1 $ 时与单图RDPG模型一致。
• 开发一种交替最小化算法，迭代更新正交潜在矩阵 $ U $ 和对角矩阵 $ \Lambda^k $，其中 $ U $ 通过正交Procrustes问题进行更新。
• 在 $ U $ 固定时，通过凸二次子问题的闭式解更新 $ \Lambda^k $ 的对角元素，确保非负性。
• 采用主要化-最小化方法优化目标函数，利用Lieb的凹性定理确保代理函数的收敛性与凹性。
• 基于平均邻接矩阵与其低秩近似之间差值的Frobenius范数，设计假设检验，用于检验多个图是否共享相同的潜在结构。
• 对平均邻接矩阵进行奇异值分解以初始化优化过程，确保算法具有良好的初始点。

实验结果

研究问题

• RQ1 能否为相同节点集上的多个图，开发出一种更具可解释性且在统计上一致的随机点积图模型推广？
• RQ2 在潜在结构中强制实施正交性与半正定性，是否能相比现有方法提升模型拟合与推断性能？
• RQ3 能否设计一种高效的交替最小化算法，保持潜在向量的正交性并实现可靠收敛？
• RQ4 所提出的假设检验在检测多个图之间图生成分布差异方面表现如何？
• RQ5 multi-RDPG模型在拟合Wikipedia和秀丽隐杆线虫蛋白相互作用数据等真实世界网络时，实际表现如何？

主要发现

• 当 $ K=1 $ 时，multi-RDPG模型恰好退化为标准随机点积图模型，保持了理论一致性。
• 所提出的带有正交Procrustes更新的交替最小化算法收敛稳定，且在模拟数据上的拟合精度优于MREG算法。
• 基于平均邻接矩阵Frobenius范数的假设检验在模拟设置中对检测图间分布差异表现出高统计功效。
• 在Wikipedia数据集中，模型成功识别出不同类型用户交互网络中的不同潜在结构。
• 在秀丽隐杆线虫数据集中，模型揭示了不同实验条件下神经连接模式的有意义差异，支持生物学可解释性。
• 该算法在拟合与检验任务中均表现出优于现有方法的实证性能，尤其在图分布异质性较强的场景下。