[论文解读] Edge Proposal Sets for Link Prediction

Abhay Pratap Singh, Qian Huang+5 more|arXiv (Cornell University)|Jun 30, 2021

Complex Network Analysis Techniques参考文献 37被引用 5

一句话总结

本文提出通过预处理图结构，添加一组与图底层结构对齐的边（称为提议集），以提升链路预测性能。通过使用启发式方法或学习模型生成的高质量提议集，无论基于邻域的方法还是GNN方法，链路预测的准确率均显著提升，尤其在提议集信息量丰富且模型对噪声具有鲁棒性时效果更明显。

ABSTRACT

Graphs are a common model for complex relational data such as social networks and protein interactions, and such data can evolve over time (e.g., new friendships) and be noisy (e.g., unmeasured interactions). Link prediction aims to predict future edges or infer missing edges in the graph, and has diverse applications in recommender systems, experimental design, and complex systems. Even though link prediction algorithms strongly depend on the set of edges in the graph, existing approaches typically do not modify the graph topology to improve performance. Here, we demonstrate how simply adding a set of edges, which we call a \emph{proposal set}, to the graph as a pre-processing step can improve the performance of several link prediction algorithms. The underlying idea is that if the edges in the proposal set generally align with the structure of the graph, link prediction algorithms are further guided towards predicting the right edges; in other words, adding a proposal set of edges is a signal-boosting pre-processing step. We show how to use existing link prediction algorithms to generate effective proposal sets and evaluate this approach on various synthetic and empirical datasets. We find that proposal sets meaningfully improve the accuracy of link prediction algorithms based on both neighborhood heuristics and graph neural networks. Code is available at \url{https://github.com/CUAI/Edge-Proposal-Sets}.

研究动机与目标

• 解决现有链路预测方法在预处理阶段将图拓扑视为固定不变的局限性。
• 探究在链路预测前添加经筛选的边集（提议集）是否能提升算法性能。
• 开发一种可泛化的框架，利用现有链路预测模型生成有效的提议集。
• 评估提议集质量与大小对多样化数据集和模型上链路预测准确率的影响。
• 探索链路预测模型对噪声或低质量提议集的鲁棒性。

提出的方法

• 提出一种预处理步骤，向原始图中添加一组边（提议集），以引导链路预测算法。
• 使用现有的链路预测启发式方法（如共同邻居）或训练好的模型生成提议集。
• 引入“筛选与排序”框架，将广泛的初始候选边集精炼为高质量的提议集。
• 将组合图（原始图 + 提议集）作为输入，用于链路预测模型，包括基于邻域的启发式方法和GNN（GCN、SAGE）。
• 通过在保留验证集上最大化性能来优化提议集质量。
• 通过调节提议集中负样本与正样本的比例来控制提议集质量，从而实现对噪声容忍度的消融实验。

实验结果

研究问题

• RQ1 向图中添加提议集边是否能提升链路预测算法的性能？
• RQ2 提议集的质量与构成如何影响链路预测的准确率？
• RQ3 不同链路预测模型（如GCN与SAGE）在面对噪声或低质量提议集时的容忍度是否存在差异？
• RQ4 自改进框架（筛选与排序）能否生成优于基线启发式方法的提议集？
• RQ5 在训练与测试数据分布存在差异的情况下，该提议集方法在何种条件下最有效？

主要发现

• 在合成的两区块随机块模型上，为共同邻居算法添加提议集后，Hits@10得分从56%提升至97%。
• 在ogbl-ddi数据集上，GCN与SAGE在使用高质量提议集时均表现出显著性能提升，即使提议集质量低于真实比例，提升效果依然持续存在。
• SAGE在面对噪声提议集时表现出比GCN更强的鲁棒性，尤其在提议集大小固定且质量下降的第一种设置中更为明显。
• 当提议集大小固定且通过用负样本替换正样本降低质量时，两种模型的性能下降速率相近，但只要负样本与正样本的比例低于真实比例，性能仍显著高于基线。
• 该方法在ogbl-ddi上的性能增益大于snap-email，可能是因为ogbl-ddi中训练集与测试集之间存在更大的分布差异，表明在更具挑战性的泛化场景中收益更高。
• 当提议集质量高、模型具备高学习能力且对提议集中的噪声具有容忍性时，该方法效果最佳。