[论文解读] Dynamic Graph Neural Networks

Yao Ma, Ziyi Guo+4 more|arXiv (Cornell University)|Oct 24, 2018

Advanced Graph Neural Networks参考文献 20被引用 9

一句话总结

本文提出动态图神经网络（DGNN），一种新颖的框架，通过捕捉顺序边更新、时间间隔和一致的信息传播，对演化图结构进行建模。在动态图上的实验表明，DGNN通过利用时间动态特性，在节点分类和链接预测任务中显著提升了性能。

ABSTRACT

Graphs, which describe pairwise relations between objects, are essential representations of many real-world data such as social networks. In recent years, graph neural networks, which extend the neural network models to graph data, have attracted increasing attention. Graph neural networks have been applied to advance many different graph related tasks such as reasoning dynamics of the physical system, graph classification, and node classification. Most of the existing graph neural network models have been designed for static graphs, while many real-world graphs are inherently dynamic. For example, social networks are naturally evolving as new users joining and new relations being created. Current graph neural network models cannot utilize the dynamic information in dynamic graphs. However, the dynamic information has been proven to enhance the performance of many graph analytical tasks such as community detection and link prediction. Hence, it is necessary to design dedicated graph neural networks for dynamic graphs. In this paper, we propose DGNN, a new {\bf D}ynamic {\bf G}raph {\bf N}eural {\bf N}etwork model, which can model the dynamic information as the graph evolving. In particular, the proposed framework can keep updating node information by capturing the sequential information of edges, the time intervals between edges and information propagation coherently. Experimental results on various dynamic graphs demonstrate the effectiveness of the proposed framework.

研究动机与目标

• 解决现有图神经网络在处理动态、演化图方面的局限性。
• 设计一种能够捕捉图演化过程中顺序边更新和时间间隔的框架。
• 实现在动态图中跨时间步的一致信息传播。
• 提升在节点分类和链接预测等动态图任务中的性能。
• 证明在图表示学习中引入时间动态特性的有效性。

提出的方法

• DGNN通过按时间顺序处理边来建模图演化，捕捉顺序动态特性。
• 通过引入连续边事件之间的时间间隔，编码时间依赖关系。
• 该框架采用类似门控循环单元（GRU）的机制，实现节点表示随时间的更新。
• 节点隐藏状态基于传入的边消息和时间上下文进行更新。
• 通过时间消息传递机制，在时间步之间保持一致的信息传播。
• 模型学习反映图中结构和时间变化的动态节点嵌入。

实验结果

研究问题

• RQ1 图神经网络如何有效建模现实世界图的动态演化？
• RQ2 时间信息（如边之间的时间间隔）在提升图表示学习方面起到什么作用？
• RQ3 统一框架能否同时捕捉顺序边更新和时间动态，以实现更优性能？
• RQ4 引入动态信息如何影响节点分类和链接预测的准确性？
• RQ5 在动态图学习中，时间结构与静态图结构的相对贡献是什么？

主要发现

• DGNN在动态图的节点分类任务中，优于静态GNN和现有动态图模型。
• 在链接预测任务中，引入边之间的时间间隔显著提升了性能。
• DGNN中的时间消息传递机制实现了在演化图结构上的连贯信息传播。
• 该模型有效捕捉了顺序边模式，从而生成更精确的动态图表示。
• 在多种动态图基准数据集上的实证结果证实了DGNN在建模图演化方面的有效性。
• DGNN在多个动态图学习基准上达到了最先进性能。