[论文解读] DeepGraph: Graph Structure Predicts Network Growth

Cheng Li, Xiaoxiao Guo+1 more|arXiv (Cornell University)|Oct 20, 2016

Complex Network Analysis Techniques参考文献 39被引用 15

一句话总结

DeepGraph 提出了一种端到端的深度学习模型，通过从原始邻接矩阵中学习图表示，利用热核签名（HKS）和多列多分辨率卷积神经网络来预测网络增长。该方法在五个真实网络数据集上显著优于手工设计的特征、图核方法以及先前的深度学习方法，表明学习到的结构表示能够捕捉预测网络动态的局部与全局拓扑模式。

ABSTRACT

The topological (or graph) structures of real-world networks are known to be predictive of multiple dynamic properties of the networks. Conventionally, a graph structure is represented using an adjacency matrix or a set of hand-crafted structural features. These representations either fail to highlight local and global properties of the graph or suffer from a severe loss of structural information. There lacks an effective graph representation, which hinges the realization of the predictive power of network structures. In this study, we propose to learn the represention of a graph, or the topological structure of a network, through a deep learning model. This end-to-end prediction model, named DeepGraph, takes the input of the raw adjacency matrix of a real-world network and outputs a prediction of the growth of the network. The adjacency matrix is first represented using a graph descriptor based on the heat kernel signature, which is then passed through a multi-column, multi-resolution convolutional neural network. Extensive experiments on five large collections of real-world networks demonstrate that the proposed prediction model significantly improves the effectiveness of existing methods, including linear or nonlinear regressors that use hand-crafted features, graph kernels, and competing deep learning methods.

研究动机与目标

• 解决手工设计的结构特征在捕捉网络增长预测中局部与全局网络拓扑方面的局限性。
• 开发一种端到端的深度学习模型，直接从原始邻接矩阵中学习有意义的图表示。
• 探究网络结构的深度表示是否能有效预测诸如规模、影响力和声望增长等动态属性。
• 将模型性能与最先进方法进行评估，包括基于特征的回归器、图核方法以及竞争性的深度学习模型。
• 验证所学习的高层特征是否与已知的社会网络理论（如结构洞和三角闭合）一致。

提出的方法

• 该模型以网络的原始邻接矩阵作为输入，为每个节点计算热核签名（HKS），以编码局部与全局的拓扑信息。
• HKS 值随时间聚合为直方图，形成一种通用的、低级别的图描述符，保留了结构复杂性。
• 多列多分辨率卷积神经网络处理基于 HKS 的描述符，以学习图结构的分层高层表示。
• 最终的预测头输出一个连续值，表示在回归设置下预期的网络增长（如规模、影响力或 h 指数）。
• 整个模型通过均方误差（MSE）损失进行端到端训练，以最小化在真实网络数据上的预测误差。
• 该方法在五个大规模真实世界网络集合上进行评估，包括社交网络、引文网络和信息传播图。

实验结果

研究问题

• RQ1 基于热核签名的学习图表示是否能在预测网络增长方面优于手工设计的结构特征？
• RQ2 深度神经网络在无需人工设计特征的情况下，能在多大程度上自动发现有意义的结构模式（如三元组、社区和结构洞）？
• RQ3 所提出的模型性能与传统方法（如线性/非线性回归器、图核方法）及其他深度学习基线相比如何？
• RQ4 模型所学习的表示是否与既有的社会网络理论（如结构洞在促进增长中的作用）相关？
• RQ5 模型性能在不同规模和密度的网络中表现如何，特别是在大规模图中？

主要发现

• DeepGraph 在五个大规模真实世界网络数据集上显著优于所有基线方法，包括基于手工特征的回归器、图核方法以及竞争性的深度学习模型。
• 该模型的均方误差（MSE）低于最强基线方法（基于特征的方法），尤其在更大规模的图上表现更优，因为此类图的结构复杂性更难通过局部子结构特征捕捉。
• 对所学习特征的可视化显示，DeepGraph 自动学习到了诸如开放与闭合三角形、边密度和社区结构等重要结构模式，这些与已知的社会网络理论一致。
• DeepGraph 学习到的高层特征与 Weibo 信息传播网络中的实际网络增长（尤其是规模和影响力范围）具有强相关性，但与间接指标（如 h 指数）的相关性较弱。
• 在 DeepGraph 表现优于基线的图中，其规模通常更大，表明基于 HKS 的表示在复杂、大规模拓扑结构中更具优势。
• 误差分析显示，两种方法在密集网络中均表现良好，但 DeepGraph 在更大规模图上具有性能优势，因为手工特征难以捕捉全局结构。