[论文解读] Streaming Graph Neural Networks

Yao Ma, Ziyi Guo+4 more|arXiv (Cornell University)|Oct 24, 2018

Advanced Graph Neural Networks参考文献 32被引用 23

一句话总结

本文提出动态图神经网络（DGNN），一种新颖的框架，通过捕捉边交互的顺序和时间间隔来建模动态演化图中的时序动态。它以增量方式更新节点表示，并将交互信息传播至受影响的节点，显著提升了真实世界动态图中的链接预测和节点分类性能。

ABSTRACT

Graphs are essential representations of many real-world data such as social networks. Recent years have witnessed the increasing efforts made to extend the neural network models to graph-structured data. These methods, which are usually known as the graph neural networks, have been applied to advance many graphs related tasks such as reasoning dynamics of the physical system, graph classification, and node classification. Most of the existing graph neural network models have been designed for static graphs, while many real-world graphs are inherently dynamic. For example, social networks are naturally evolving as new users joining and new relations being created. Current graph neural network models cannot utilize the dynamic information in dynamic graphs. However, the dynamic information has been proven to enhance the performance of many graph analytic tasks such as community detection and link prediction. Hence, it is necessary to design dedicated graph neural networks for dynamic graphs. In this paper, we propose DGNN, a new {\bf D}ynamic {\bf G}raph {\bf N}eural {\bf N}etwork model, which can model the dynamic information as the graph evolving. In particular, the proposed framework can keep updating node information by capturing the sequential information of edges (interactions), the time intervals between edges and information propagation coherently. Experimental results on various dynamic graphs demonstrate the effectiveness of the proposed framework.

研究动机与目标

• 解决现有图神经网络将动态图视为静态图所导致的局限，避免遗漏时序演化模式。
• 开发一种框架，捕捉边交互的顺序及其之间的时序间隔，以改进动态图中的节点表示学习。
• 实现实时、增量式更新节点特征，当新边到达时保持信息传播的一致性。
• 探究对受影响节点进行时序感知传播如何提升动态图任务（如链接预测和节点分类）的性能。

提出的方法

• 提出一种动态图神经网络（DGNN），按顺序处理边的到达，基于交互顺序和时间间隔更新节点表示。
• 采用可学习的更新机制，整合每个新边的时间上下文信息，包括与同一节点上次交互以来的时间间隔。
• 应用时序感知传播组件，根据影响力强度和时间衰减，将交互信息传播至邻近节点。
• 定义基于阈值的传播策略，仅将更新信息传递给时间窗口内的节点（由 τ 控制），以减少过时交互带来的噪声。
• 将更新与传播组件整合为统一框架，支持在线学习与增量推理。
• 利用适配于时序图的消息传递机制，其中消息同时携带特征信息与时间信息（例如时间差）。

实验结果

研究问题

• RQ1 图神经网络如何有效建模动态图中边到达的顺序？
• RQ2 边间交互时间间隔对节点表示学习与信息传播有何影响？
• RQ3 如何高效地将交互信息传播至受影响节点，同时最小化过时或遥远交互带来的噪声？
• RQ4 引入时序动态在下游任务（如链接预测与节点分类）中能提升多少性能？
• RQ5 能否设计一种可扩展的、增量式框架，在无需从头训练的情况下处理实时图演化？

主要发现

• DGNN 通过建模时序动态，在真实世界动态图上显著提升了链接预测与节点分类性能。
• 在 MRR 指标上，随着传播阈值 τ 增大至 50，性能持续提升，表明向适度数量的受影响节点传播信息可增强学习效果。
• 当 τ > 50 后，性能趋于平稳或略有下降，表明向非常久远或遥远邻居传播信息会引入噪声而非有用信息。
• 时序感知更新机制能有效捕捉节点的演化偏好，例如在电商图中用户最新的兴趣变化。
• 传播组件成功地将交互信号广播至相关邻近节点，提升了表示质量，且计算成本可控。
• 该框架支持高效、增量式更新，适用于流式图的实时应用。