[论文解读] Node Classification Meets Link Prediction on Knowledge Graphs

Ralph Abboud, İsmail İlkan Ceylan|arXiv (Cornell University)|Jun 14, 2021

Advanced Graph Neural Networks参考文献 36被引用 4

一句话总结

本文通过提出 MLP-X 框架，统一了不完整知识图谱上的归纳节点分类与链接预测任务。该框架通过多层感知机扩展浅层嵌入模型，联合利用节点特征与关系结构。关键贡献是引入了一个新的基准数据集 WikiAlumni，MLP-X 模型在节点分类与链接预测任务中均优于 GNN，尤其在关系不完整的情况下，展现出开放世界推理相较于 GNN 所依赖的封闭世界假设的优势。

ABSTRACT

Node classification and link prediction are widely studied in graph representation learning. While both transductive node classification and link prediction operate over a single input graph, they have so far been studied separately. Node classification models take an input graph with node features and incomplete node labels, and implicitly assume that the graph is relationally complete, i.e., no edges are missing. By contrast, link prediction models are solely motivated by relational incompleteness of the input graphs, and do not typically leverage node features or classes. We propose a unifying perspective and study the problems of (i) transductive node classification over incomplete graphs and (ii) link prediction over graphs with node features, introduce a new dataset for this setting, WikiAlumni, and conduct an extensive benchmarking study.

研究动机与目标

• 为填补现有节点分类与链接预测方法的空白，研究在不完整图上的归纳节点分类与基于节点特征的链接预测。
• 提出一个统一框架，通过节点特征与关系结构联合优化节点分类与链接预测。
• 引入 WikiAlumni，一个具备真实世界特征、丰富关系与平衡类别的新型知识图基准，适用于两类任务。
• 在不同关系不完整程度与特征可用性条件下，评估 MLP-X 模型相较于 GNN 的性能表现。
• 探究节点分类与链接预测之间的相互作用，特别是模型归纳偏置导致的聚类效应如何影响性能。

提出的方法

• 提出 MLP-X 框架，通过在任意浅层嵌入模型 X 的基础上增加多层感知机（MLP）来处理节点特征，实现节点分类与链接预测的联合优化。
• 构建 WikiAlumni 作为从维基百科校友数据派生的异构多关系知识图，通过实体特征与一元事实增强，以支持分类预测。
• 使用交叉熵损失进行节点分类训练，链接预测则根据模型表达能力选择负采样或交叉熵损失。
• 采用统一的训练目标，结合节点分类与链接预测，使模型能同时从已标注类别与缺失关系中学习。
• 通过系统性地掩码边来控制关系不完整程度，评估模型在两类任务上的性能表现。
• 在不同关系不完整程度与特征可用性条件下，将 MLP-X 模型与标准 GNN 及基础浅层模型（如 TransE、RotatE、BoxE）进行对比。

实验结果

研究问题

• RQ1 通过同时学习缺失边与节点特征，能否使节点分类模型对关系不完整更具鲁棒性？
• RQ2 在知识图谱中引入节点特征是否能提升链接预测性能，尤其是在与节点分类联合优化时？
• RQ3 不同嵌入模型（如 TransE 与 RotatE 的聚类归纳偏置）的归纳偏置如何影响节点分类与链接预测性能之间的权衡？
• RQ4 在不完整图设置下，MLP-X 模型所采用的开放世界假设（OWA）相较于 GNN 的封闭世界假设（CWA）在多大程度上更具优势？
• RQ5 像 MLP-X 这样的统一框架能否在真实世界知识图上同时实现节点分类与链接预测任务的最先进性能？

主要发现

• 在 WikiAlumni 上，MLP-X 模型在归纳节点分类任务中优于 GNN，尤其在关系不完整程度增加时，展现出对缺失边的强鲁棒性。
• MLP-X 模型通过利用节点特征，显著提升了其基础模型的链接预测性能，尤其在如 MLP-BoxE 这类完全表达的模型中表现突出。
• MLP-RotatE 与 MLP-TransE 因其归纳偏置表现出聚类行为，这虽提升了节点分类性能，却损害了细粒度链接预测，凸显了性能权衡。
• MLP-BoxE 在所有不完整程度下均取得最佳综合性能，因其完全表达性避免了聚类，且交叉熵损失比负采样更契合其打分机制。
• WikiAlumni 数据集适用于节点分类与链接预测两类任务，具备真实世界特征、平衡类别与丰富关系结构，适合作为基准。
• 本研究证明，通过 MLP-X 实现节点分类与链接预测的联合优化，可获得比孤立任务训练更强、更具泛化能力的表征。