[论文解读] KGvec2go -- Knowledge Graph Embeddings as a Service

Jan Portisch, Michael Hladik+1 more|arXiv (Cornell University)|Mar 9, 2020

Advanced Graph Neural Networks参考文献 27被引用 7

一句话总结

KGvec2go 是一种轻量级 Web API 服务，通过 RDF2Vec 提供对四个主要知识图谱——DBpedia、WebIsALOD、Wiktionary 和 WordNet——预训练知识图谱嵌入的按需访问。该服务可在下游应用中实现高效、低资源消耗的语义向量使用，评估结果表明，结合多个知识图谱的嵌入可优于单一模型在语义相似性基准上的表现。

ABSTRACT

In this paper, we present KGvec2go, a Web API for accessing and consuming graph embeddings in a light-weight fashion in downstream applications. Currently, we serve pre-trained embeddings for four knowledge graphs. We introduce the service and its usage, and we show further that the trained models have semantic value by evaluating them on multiple semantic benchmarks. The evaluation also reveals that the combination of multiple models can lead to a better outcome than the best individual model.

研究动机与目标

• 实现无需完整模型下载或本地训练即可高效按需访问预训练知识图谱嵌入。
• 支持在资源受限环境（如移动设备和数据科学工作流）中轻量级集成知识图谱嵌入。
• 在标准基准上评估来自多样化知识图谱的嵌入的语义质量。
• 探索结合多个知识图谱嵌入以提升语义任务性能的潜力。
• 为研究人员和实践者提供可扩展、可访问的服务，将知识图谱嵌入作为服务消费。

提出的方法

• 使用 RDF2Vec 算法在四个不同的知识图谱（DBpedia、WebIsALOD、Wiktionary 和 WordNet）上训练知识图谱嵌入。
• 从知识图谱中的每个节点生成类似句子的游走路径（排除数据类型属性），以形成 word2vec 训练的语料库。
• 应用 word2vec 中的连续词袋（CBOW）和跳字模型（skip-gram）来学习实体和关系的稠密向量表示。
• 通过 RESTful Web API 暴露训练好的嵌入，支持对特定概念的向量表示和相似度分数的查询。
• 通过轻量级 HTTP 请求支持单个概念检索和成对相似度计算。
• 通过加权平均方法组合多个知识图谱嵌入的相似度分数，以提升基准任务上的性能。

实验结果

研究问题

• RQ1 Web API 服务能否在无需完整模型下载的情况下，实现对预训练知识图谱嵌入的高效、按需访问？
• RQ2 在多样化知识图谱（从人工整理到自动生成）上训练的嵌入是否携带有意义的语义信息？
• RQ3 结合多个知识图谱的嵌入是否能在语义相似性基准上超越表现最佳的单一嵌入模型？
• RQ4 不同知识图谱的嵌入在标准语义评估数据集上的性能表现如何比较？
• RQ5 轻量级、基于 API 的嵌入访问在低资源或移动环境中的真实应用中能发挥多大作用？

主要发现

• KGvec2go API 通过简单的 HTTP 请求成功实现了对预训练知识图谱嵌入的按需、轻量级访问，显著降低了计算和内存开销。
• 所有四个知识图谱（DBpedia、WebIsALOD、Wiktionary 和 WordNet）的嵌入均表现出语义相关性，这在标准基准上的显著等级相关性中得到证实。
• 在 WS-353 基准上，组合嵌入模型达到了斯皮尔曼等级相关系数 ρ = 0.678，优于表现最佳的单一模型（ρ = 0.571）。
• 在 MEN 基准上，组合模型达到了 ρ = 0.230，超过表现最佳的单一模型（ρ = 0.207），表明通过集成组合可实现性能提升。
• 在 SimLex-999 上，组合模型达到了 ρ = 0.2815，与表现最佳的单一模型（WordNet，ρ = 0.2870）非常接近，表明在相似性任务上具有强大的泛化能力。
• 结果表明，嵌入更擅长捕捉相关性而非相似性，这与缺乏相似性特定的训练目标预期一致。