[论文解读] Signed Graph Diffusion Network

Jinhong Jung, Jaemin Yoo+1 more|arXiv (Cornell University)|Dec 28, 2020

Advanced Graph Neural Networks参考文献 36被引用 11

一句话总结

该论文提出了一种新型图神经网络——签名图扩散网络（SGDNet），用于在签名社交图中实现端到端的节点表征学习，以预测链接符号。通过引入签名随机游走扩散机制和局部特征注入，SGDNet能够有效捕捉多跳邻居信息，同时避免过度平滑，其性能达到当前最先进水平，F1-macro准确率比之前的方法最高提升7.4%。

ABSTRACT

Given a signed social graph, how can we learn appropriate node representations to infer the signs of missing edges? Signed social graphs have received considerable attention to model trust relationships. Learning node representations is crucial to effectively analyze graph data, and various techniques such as network embedding and graph convolutional network (GCN) have been proposed for learning signed graphs. However, traditional network embedding methods are not end-to-end for a specific task such as link sign prediction, and GCN-based methods suffer from a performance degradation problem when their depth increases. In this paper, we propose Signed Graph Diffusion Network (SGDNet), a novel graph neural network that achieves end-to-end node representation learning for link sign prediction in signed social graphs. We propose a random walk technique specially designed for signed graphs so that SGDNet effectively diffuses hidden node features. Through extensive experiments, we demonstrate that SGDNet outperforms state-of-the-art models in terms of link sign prediction accuracy.

研究动机与目标

• 解决现有网络嵌入和基于GCN的模型在学习签名图节点表征时的局限性。
• 克服深度GCN模型在应用于签名图时因过度平滑导致的性能下降问题。
• 通过联合优化特征提取与预测，实现链接符号预测的端到端学习。
• 设计一种扩散机制，在有效传播签名边信息的同时保留局部特征。

提出的方法

• 提出一种新颖的签名随机游走扩散方法，沿签名图中的路径传播节点特征，同时考虑正负边符号的影响。
• 引入一种局部特征注入机制，在聚合过程中保留每个节点的原始输入特征，以维持特征的可区分性。
• 采用多个堆叠的签名图扩散（SGD）层，通过迭代特征传播学习分层的节点表征。
• 在随机游走中引入重启概率，以平衡全局与局部信息，扩散过程形式化为矩阵运算。
• 采用端到端训练框架，通过针对链接符号预测定制的损失函数优化节点嵌入。
• 理论与实证分析表明，该方法即使在增加扩散步数（K=10）的情况下也能避免过度平滑。

实验结果

研究问题

• RQ1 图神经网络能否在签名社交图中实现链接符号预测的端到端学习，从而超越传统的两阶段方法？
• RQ2 如何在保留局部特征并避免过度平滑的前提下，有效学习签名图中的节点表征？
• RQ3 多跳邻居信息对链接符号预测性能有何影响，又该如何高效利用？
• RQ4 在签名图学习中，局部与全局特征传播之间的平衡如何影响模型性能？

主要发现

• SGDNet在所有评估数据集上均取得了最高的AUC和F1-macro得分，相比SOTA模型在AUC上最高提升6.4%，在F1-macro上最高提升7.4%。
• SGDNet的性能随着扩散步数增加（K最高达10）而稳步提升，表明其有效利用了远距离邻居信息。
• 相比之下，SGCN在超过3步扩散后性能显著下降，显示出其在深层架构中对过度平滑的敏感性。
• 存在一个最优的局部注入比例（小数据集c ≈ 0.15–0.35，大数据集c ≈ 0.5），极端值（如c=0.05或c=0.95）会导致性能下降。
• SGDNet的扩散机制成功保留了局部特征，同时实现了在签名边上的有效信息传播，从而生成更具表现力和可区分性的节点嵌入。
• 该方法在多种真实世界签名图（包括Bitcoin-Alpha、Bitcoin-OTC、Slashdot和Epinions）上表现出鲁棒性，持续获得性能提升。