[论文解读] Modeling Event Propagation via Graph Biased Temporal Point Process

Weichang Wu, Huanxi Liu+3 more|arXiv (Cornell University)|Aug 5, 2019

Point processes and geometric inequalities参考文献 53被引用 6

一句话总结

本文提出图偏置时间点过程（GBTPP），一种新颖模型，将图结构信息整合到时间点过程中，用于事件传播建模。通过分别建模通过学习的节点嵌入实现的直接影响力，以及通过历史感知注意力实现的间接影响力，GBTPP 在真实世界中的转发和表情包传播数据集上优于最先进方法。

ABSTRACT

Temporal point process is widely used for sequential data modeling. In this paper, we focus on the problem of modeling sequential event propagation in graph, such as retweeting by social network users, news transmitting between websites, etc. Given a collection of event propagation sequences, conventional point process model consider only the event history, i.e. embed event history into a vector, not the latent graph structure. We propose a Graph Biased Temporal Point Process (GBTPP) leveraging the structural information from graph representation learning, where the direct influence between nodes and indirect influence from event history is modeled respectively. Moreover, the learned node embedding vector is also integrated into the embedded event history as side information. Experiments on a synthetic dataset and two real-world datasets show the efficacy of our model compared to conventional methods and state-of-the-art.

研究动机与目标

• 为解决传统时间点过程在建模图上事件传播时忽略节点间结构依赖性的局限性。
• 通过利用学习的节点嵌入作为结构先验，将图拓扑和节点邻近性融入事件序列建模。
• 在事件传播动态中区分直接影响力（通过连接节点）与间接影响力（通过传播历史）。
• 通过统一框架整合结构信息与序列信息，提升传播节点和时间预测的准确性。

提出的方法

• GBTPP 使用多维霍克斯过程建模事件传播，其中事件标记对应于有向加权图中的节点。
• 连接节点之间的直接影响力被建模为可学习偏置项，其大小由事件历史函数决定，并基于预训练的节点嵌入得出。
• 通过循环神经网络建模历史事件的间接影响力，该网络关注过去事件，且在隐藏状态中使用节点嵌入作为辅助信息。
• 节点嵌入通过图表示学习（如 node2vec 或类似方法）学习，并作为结构先验用于指导影响力估计。
• 强度函数结合了直接影响力（图偏置）与间接影响力（历史依赖），实现对结构效应与时间效应的独立建模。
• 模型通过在观测事件序列上使用负对数似然损失进行端到端训练，注意力机制用于根据相关性和节点邻近性加权历史事件。

实验结果

研究问题

• RQ1 将图结构信息整合是否能提升时间点过程中事件传播预测的准确性？
• RQ2 将直接影响力（连接节点之间）与间接影响力（通过传播历史）分离，对建模性能有何影响？
• RQ3 使用节点嵌入作为辅助信息在多大程度上增强了模型预测未来传播节点和时间的能力？
• RQ4 GBTPP 模型是否在真实世界事件传播数据集（如 Higgs Twitter 和 MemeTracker）上优于最先进方法？

主要发现

• GBTPP 在传播节点和时间预测方面显著优于传统参数模型（如泊松过程、马尔可夫链）和标准时间点过程（HP、SCP）。
• GBTPP 在真实世界数据集上表现优于最先进模型 RMTPP，证明了显式图偏置和结构辅助信息的有效性。
• Top-K 精确率曲线显示，GBTPP 在推荐下一个传播节点方面始终排名更高，表明其在推荐系统中具有强大的实际应用价值。
• 尽管 NRPP 也使用节点嵌入，但 GBTPP 的性能提升并非仅源于嵌入注入，而是源于其在独立建模直接与间接影响力方面的架构创新。
• 在合成数据集上，GBTPP 与 RMTPP 表现相当；但在真实世界数据上，性能差距扩大，证实了该模型对真实图拓扑的敏感性。
• 消融实验确认，图偏置强度项与嵌入增强的历史建模均为模型卓越性能的关键因素。