[论文解读] GC-LSTM: Graph Convolution Embedded LSTM for Dynamic Link Prediction

Jinyin Chen, Wang, Xueke+1 more|arXiv (Cornell University)|Dec 11, 2018

Complex Network Analysis Techniques参考文献 53被引用 85

一句话总结

GC-LSTM 将图卷积嵌入到 LSTM 中，以学习用于动态网络链路预测的时空特征，预测新增、删除或保持的链路。它在真实数据集上超越了最先进的基线方法。

ABSTRACT

Dynamic link prediction is a research hot in complex networks area, especially for its wide applications in biology, social network, economy and industry. Compared with static link prediction, dynamic one is much more difficult since network structure evolves over time. Currently most researches focus on static link prediction which cannot achieve expected performance in dynamic network. Aiming at low AUC, high Error Rate, add/remove link prediction difficulty, we propose GC-LSTM, a Graph Convolution Network (GC) embedded Long Short Term Memory network (LTSM), for end-to-end dynamic link prediction. To the best of our knowledge, it is the first time that GCN embedded LSTM is put forward for link prediction of dynamic networks. GCN in this new deep model is capable of node structure learning of network snapshot for each time slide, while LSTM is responsible for temporal feature learning for network snapshot. Besides, current dynamic link prediction method can only handle removed links, GC-LSTM can predict both added or removed link at the same time. Extensive experiments are carried out to testify its performance in aspects of prediction accuracy, Error Rate, add/remove link prediction and key link prediction. The results prove that GC-LSTM outperforms current state-of-art method.

研究动机与目标

• 激发动态网络链路预测（DNLP）及其广泛应用。
• 提出一个端到端的模型，同时学习 DNLP 的结构特征和时序特征。
• 实现对新出现的和消失的链路的预测，而不仅仅是新增链路。
• 在多个真实世界的动态网络上，将 GC-LSTM 与现有基线方法进行比较评估。

提出的方法

• 将每个快照表示为一个邻接矩阵，并使用一系列过去的邻接矩阵作为输入。
• 通过对隐藏状态和单元状态均应用 GCN，将图卷积嵌入到 LSTM 中（每个 LSTM 单元有两个 GCN）。
• 使用两部分的编码-解码框架，其中 GC-LSTM 作为编码器，完全连接的解码器将隐藏状态映射到链路概率。
• 使用基于切比雪夫多项式的图卷积来近似有向图的谱滤波（K 阶，K=3）。
• 用结合邻接矩阵的 L2 重构误差和正则化项的损失来训练模型，使用 Adam 进行优化。

实验结果

研究问题

• RQ1 如何将每个网络快照的结构信息与时间演化整合用于 DNLP？
• RQ2 将 GCN 嵌入到 LSTM 单元中是否可以同时提高对动态网络中新增和删除链路的预测？
• RQ3 图卷积阶数 (K) 对预测性能和效率有何影响？
• RQ4 在真实数据集上，GC-LSTM 如何在多种指标上与现有 DNLP 方法比较？

主要发现

• GC-LSTM 有效地同时学习动态网络的空间结构和时序演化。
• 该模型预测新增、删除及保持的链路，能够实现对动态网络的完整演化预测。
• 实验表明，在若干真实世界数据集的标准指标上，GC-LSTM 超越了最先进的基线方法。
• GC-LSTM 使用 K=3 的切比雪夫图卷积，并根据数据集在 256–512 维隐藏状态之间取值，以平衡性能和效率。