[论文解读] Semi-supervised Graph Embedding Approach to Dynamic Link Prediction

Ryohei Hisano|arXiv (Cornell University)|Oct 14, 2016

Complex Network Analysis Techniques参考文献 32被引用 4

一句话总结

该论文提出SemiGraph，一种用于动态链接预测的半监督图嵌入方法，通过加权组合过去网络动态的监督损失与当前网络中邻居上下文预测的无监督损失，联合建模链接的形成与消失。该模型为形成和消失过程学习了独特的复值嵌入，实现了在真实动态网络上的链接消失预测的最先进性能，以及在链接形成预测中表现强劲。

ABSTRACT

We propose a simple discrete time semi-supervised graph embedding approach to link prediction in dynamic networks. The learned embedding reflects information from both the temporal and cross-sectional network structures, which is performed by defining the loss function as a weighted sum of the supervised loss from past dynamics and the unsupervised loss of predicting the neighborhood context in the current network. Our model is also capable of learning different embeddings for both formation and dissolution dynamics. These key aspects contributes to the predictive performance of our model and we provide experiments with three real--world dynamic networks showing that our method is comparable to state of the art methods in link formation prediction and outperforms state of the art baseline methods in link dissolution prediction.

研究动机与目标

• 为解决动态网络中网络转换预测的挑战，特别是区分链接形成与消失。
• 通过整合时间（过去）和横截面（当前）网络结构，提升预测性能。
• 实现对链接形成与消失动态的独立嵌入学习，承认其潜在机制可能不同。
• 开发一种可扩展且简单的离散时间方法，优于现有方法，尤其在链接消失预测方面。

提出的方法

• 该模型使用复值潜在特征双线性模型，从过去的链接形成与消失网络中学习监督表示。
• 其引入一个无监督图嵌入组件，利用相同的复值向量在当前网络中预测邻居上下文。
• 总损失为监督损失（来自过去动态）与无监督损失（来自当前网络上下文）的加权和。
• 使用随机梯度下降端到端训练模型，以优化组合损失函数。
• 复值向量的使用可高效建模对称与反对称关系，支持形成与消失动态。
• 该方法用于预测从时间 $t$ 到 $t+1$ 的转换，聚焦于变化而非静态网络状态。

实验结果

研究问题

• RQ1 通过结合过去动态与当前网络结构，半监督图嵌入方法能否有效预测网络转换？
• RQ2 为链接形成与消失分别学习嵌入是否相比共享嵌入能提升预测性能？
• RQ3 所提方法在链接形成与链接消失预测方面与最先进方法相比表现如何？
• RQ4 该模型对超参数选择（如嵌入维度和损失加权参数 $\lambda$）是否具有鲁棒性？

主要发现

• 所提出的SemiGraph模型在所有三个测试的真实世界数据集中，均优于最先进基线方法，在链接消失预测方面表现卓越。
• 在链接形成预测方面，该模型与最先进方法性能相当，展现出强大的泛化能力。
• 实验表明，监督损失与无监督损失的最佳平衡点出现在 $\lambda \approx 0.05$，更高值会导致性能下降。
• 该模型在不同嵌入维度下表现出稳定性能，表明对这一超参数具有鲁棒性。
• 时间与横截面信息的整合显著提升了预测准确性，优于单独使用任一信号。