[论文解读] EvoNet: A Neural Network for Predicting the Evolution of Dynamic Graphs

Changmin Wu, Giannis Nikolentzos+1 more|arXiv (Cornell University)|Mar 2, 2020

Complex Network Analysis Techniques参考文献 36被引用 5

一句话总结

EvoNet 是一种新颖的神经网络框架，通过结合图神经网络（GNN）、循环结构和图生成解码器，预测动态图的拓扑演化。它在合成数据集和真实世界数据集上均优于传统的随机图模型，在预测未来图结构方面表现出高相似度（例如，在 BTC-OTC 数据集上达到 0.82）。

ABSTRACT

Neural networks for structured data like graphs have been studied extensively in recent years. To date, the bulk of research activity has focused mainly on static graphs. However, most real-world networks are dynamic since their topology tends to change over time. Predicting the evolution of dynamic graphs is a task of high significance in the area of graph mining. Despite its practical importance, the task has not been explored in depth so far, mainly due to its challenging nature. In this paper, we propose a model that predicts the evolution of dynamic graphs. Specifically, we use a graph neural network along with a recurrent architecture to capture the temporal evolution patterns of dynamic graphs. Then, we employ a generative model which predicts the topology of the graph at the next time step and constructs a graph instance that corresponds to that topology. We evaluate the proposed model on several artificial datasets following common network evolving dynamics, as well as on real-world datasets. Results demonstrate the effectiveness of the proposed model.

研究动机与目标

• 为解决现有方法在预测动态图实际拓扑结构方面存在的不足，而非仅学习其低维嵌入表示。
• 开发一个统一的框架，利用深度学习建模动态图中的时间演化模式。
• 实现从过去图序列到未来图结构的端到端预测。
• 使用基于图核的相似性度量在多样化数据集上评估模型性能。
• 证明学习到的动态图嵌入能够有效捕捉结构与时间特征。

提出的方法

• 使用 GNN 作为编码器，将序列中的每个图转换为低维结构嵌入表示。
• 采用循环神经网络（RNN）建模图嵌入之间的时间依赖关系，并预测下一个嵌入。
• 应用图生成模型（解码器），接收预测的嵌入并生成下一个图的邻接矩阵。
• 利用 Weisfeiler-Lehman 子树核评估预测图与真实图之间的相似性。
• 通过最小化基于图核相似度的重建损失，实现模型的端到端训练。
• 采用主成分分析（PCA）对学习到的动态图嵌入进行可视化，以验证其语义合理性。

实验结果

研究问题

• RQ1 深度学习框架是否能够有效预测动态图的拓扑演化，而不仅仅是学习节点或图的嵌入表示？
• RQ2 与传统随机图模型相比，GNN-RNN-图生成流水线在重建复杂时间图动态方面表现如何？
• RQ3 学习到的动态图嵌入是否能够捕捉序列图数据中的结构与时间模式？
• RQ4 EvoNet 在具有复杂非平凡演化模式的真实世界动态图上的表现如何？
• RQ5 该模型在多大程度上无法捕捉特定图结构（如环或格子结构），原因是什么？

主要发现

• 在 BTC-OTC 真实世界数据集上，EvoNet 的平均图相似度达到 0.82，显著优于传统模型（如 Kronecker 图模型）。
• 在 UCI-Message 数据集上，EvoNet 的平均相似度达到 0.71，再次超越所有基线方法。
• 对于合成序列中的路径图和梯子图，模型能准确预测图大小的演化，但无法重建环状结构，常将环误预测为路径图。
• PCA 可视化结果表明，学习到的动态图嵌入呈现出连贯的序列性模式（如线性趋势），表明其有效捕捉了时间依赖关系。
• 模型在多样化的真实世界数据集上表现稳定，展现出对复杂非平凡图演化动态的强鲁棒性。
• 尽管在捕捉某些拓扑特征（如环）方面存在局限，EvoNet 仍为基于深度学习的拓扑图演化预测建立了强有力的基线。