[论文解读] Walk this Way! Entity Walks and Property Walks for RDF2vec

Jan Portisch, Heiko Paulheim|arXiv (Cornell University)|Apr 5, 2022

Semantic Web and Ontologies被引用 5

一句话总结

本文提出了两种新颖的行走策略——e-walks（实体行走）和 p-walks（属性行走），用于 RDF2vec，以在知识图嵌入中解耦结构相似性与上下文相关性。通过分离焦点实体周围的实体序列或谓词，该方法使嵌入能够更好地捕捉相似性（p-walks）或相关性（e-walks）。e-walks 在实体相关性任务中表现优于其他方法，而 p-walks 在文档相似性任务中表现优异，尤其在结合顺序感知训练时表现更佳。

ABSTRACT

RDF2vec is a knowledge graph embedding mechanism which first extracts sequences from knowledge graphs by performing random walks, then feeds those into the word embedding algorithm word2vec for computing vector representations for entities. In this poster, we introduce two new flavors of walk extraction coined e-walks and p-walks, which put an emphasis on the structure or the neighborhood of an entity respectively, and thereby allow for creating embeddings which focus on similarity or relatedness. By combining the walk strategies with order-aware and classic RDF2vec, as well as CBOW and skip-gram word2vec embeddings, we conduct a preliminary evaluation with a total of 12 RDF2vec variants.

研究动机与目标

• 为解决 RDF2vec 在混淆相似性与相关性方面的局限性，提出专门的行走策略。
• 使嵌入能够分别强调结构相似性（p-walks）或上下文相关性（e-walks）。
• 评估这些行走变体与顺序感知训练及经典 word2vec 训练结合时的性能。
• 确定 e-walks 和 p-walks 是否能生成更准确反映特定语义关系的嵌入。

提出的方法

• e-walks 是从随机行走中提取的实体序列，仅保留焦点实体及其邻居，强调上下文相关性。
• p-walks 是与焦点实体相连的谓词（关系）序列，强调结构相似性。
• 使用固定 4 跳深度提取行走，每个实体生成 500 条行走，序列输入 CBOW 或 skip-gram word2vec 模型。
• 同时使用经典和顺序感知 word2vec 变体，嵌入维度为 200。
• 使用 jRDF2Vec 框架进行实现，所有模型均可通过 KGvec2go 公开获取。
• 评估基于 20 项任务的标准化基准，包括分类、聚类、回归、类比、实体相关性及文档相似性。

实验结果

研究问题

• RQ1 与经典 RDF2vec 相比，e-walks 和 p-walks 是否能生成更准确反映相关性与相似性的嵌入？
• RQ2 将 e-walks 或 p-walks 与顺序感知 word2vec 结合是否能提升下游任务的性能？
• RQ3 在哪些任务中 e-walks 表现优于经典行走，而在哪些任务中 p-walks 表现更优？
• RQ4 在需要同时体现相似性与相关性的语义类比任务中，不同行走策略的表现如何比较？

主要发现

• e-RDF2vec 在实体相关性任务中表现最佳，肯德尔等级相关系数达 0.832，显著优于经典 RDF2vec 的 0.747。
• p-RDF2vec 在文档相似性任务中取得最高调和平均分数（0.382），表明其对结构相似性的捕捉能力更强。
• 在语义类比任务中，经典 RDF2vec 搭配 skip-gram 与顺序感知训练表现最佳（准确率 0.905），而 e-walks 和 p-walks 表现较差，这符合预期，因其仅聚焦于单一维度。
• 顺序感知训练在所有行走类型中均优于经典训练，且对 e-walks 和 p-walks 的提升效果略强于对经典 RDF2vec 的提升。
• 在所有配置中，skip-gram 变体普遍优于 CBOW，尤其在相关性与聚类任务中表现更优。
• 在 20 项任务中有 12 项中经典 RDF2vec 取得最佳结果，但 e-walks 和 p-walks 分别在相关性与结构相似性任务中表现出显著的专业化优势。