Skip to main content
QUICK REVIEW

[论文解读] Graph Convolutional Gaussian Processes For Link Prediction

Felix L. Opolka, Píetro Lió|arXiv (Cornell University)|Feb 11, 2020
Advanced Graph Neural Networks参考文献 31被引用 8
一句话总结

本文提出图卷积高斯过程(GCLGP)用于链接预测,通过简化图卷积整合节点特征与局部图结构,增强归纳偏置。该方法在图结构域上采用变分诱导点方法,八组基准图数据集上均取得最先进性能,相较于高斯过程基线模型及VGAE等图神经网络模型,性能持续提升。

ABSTRACT

Link prediction aims to reveal missing edges in a graph. We address this task with a Gaussian process that is transformed using simplified graph convolutions to better leverage the inductive bias of the domain. To scale the Gaussian process model to large graphs, we introduce a variational inducing point method that places pseudo inputs on a graph-structured domain. We evaluate our model on eight large graphs with up to thousands of nodes and report consistent improvements over existing Gaussian process models as well as competitive performance when compared to state-of-the-art graph neural network approaches.

研究动机与目标

  • 通过结合高斯过程与图卷积归纳偏置,解决大规模图中链接预测的挑战。
  • 通过可扩展的变分诱导点方法,克服标准高斯过程在大规模图上计算不可行的问题。
  • 通过贝叶斯推理提供合理的不确定性估计与鲁棒泛化能力,避免深度学习模型中常见的过拟合问题。
  • 在概率框架下同时利用节点特征与局部邻域信息进行链接预测。
  • 提出一种新型变分诱导点方法,将伪输入置于图结构诱导图上,提升可扩展性与性能。

提出的方法

  • 通过在核函数上应用简化图卷积,将定义在欧氏空间的标准高斯过程转化为图卷积高斯过程。
  • 在图卷积操作中引入可学习的邻域大小,使模型能自动适应输入图结构。
  • 通过组合节点级高斯过程与链接预测核函数,构建节点对上的高斯过程,实现端到端链接预测。
  • 在连通的、随机生成的诱导图节点上放置诱导点,对后验分布应用变分近似,以确保可扩展性。
  • 使用变分下界(ELBO)优化超参数与变分参数,实现无需验证集的训练,并支持不确定性量化。
  • 采用可微分图卷积机制,聚合邻近节点的特征,增强模型捕捉局部结构模式的能力。

实验结果

研究问题

  • RQ1图卷积归纳偏置能否提升高斯过程在链接预测任务中的性能?
  • RQ2如何在保持不确定性估计与贝叶斯泛化能力的前提下,将高斯过程扩展至大规模图?
  • RQ3图结构变分诱导点方法是否在链接预测中优于标准欧氏空间的诱导点放置方式?
  • RQ4图卷积高斯过程模型能否在链接预测中达到与SOTA图神经网络(如VGAE)相当的性能?
  • RQ5通过图卷积整合局部邻域信息,在多样化的真实世界图中,对链接预测准确率的提升程度如何?

主要发现

  • 在八组数据集中的六组上,所提出的GCLGP模型相较于非卷积高斯过程(LGP)在AUC指标上表现更优,其中在Router数据集上提升最高达10.0个百分点。
  • 在Router数据集上,GCLGP的AUC达到79.79 ± 3.62,显著优于VGAE(61.51 ± 1.22)与LGP(69.61 ± 1.33)。
  • 在平均精度(AP)指标上,GCLGP在八组数据集中的四组上优于VGAE,其余四组达到或超过其表现,展现出强大鲁棒性。
  • 在E.coli数据集上,GCLGP的AP达到95.02 ± 1.08,优于VGAE(92.77 ± 0.65)与LGP(93.99 ± 0.47)。
  • 在大多数数据集上,GCLGP相较于非卷积LGP基线模型均实现一致性能提升,证实了引入局部邻域信息的有效性。
  • 在图结构域上的变分诱导点方法使模型能有效扩展至含数千个节点的图,且无需大量超参数调优即可保持高性能。

更好的研究,从现在开始

从阅读论文到最终审阅,大幅缩短您的研究时间。

无需绑定信用卡

本解读由 AI 生成,并经人工编辑审核。