[论文解读] Using Word Embeddings for Visual Data Exploration with Ontodia and Wikidata

Gerhard Wohlgenannt, Nikolay Klimov+4 more|arXiv (Cornell University)|Mar 4, 2019

Semantic Web and Ontologies参考文献 8被引用 4

一句话总结

本文提出通过整合词嵌入（word embeddings）来增强Ontodia的链接数据自然语言搜索功能，以推荐语义相关的实体属性，从而提升非技术用户对数据的可发现性。基于Wikidata，评估了fastText、LexVec和GloVe三种嵌入模型，结果表明使用完整词汇表和300维向量的fastText在相关属性排序任务中准确率最高（MRR 0.78），显著改善了用户在可视化数据探索中的体验。

ABSTRACT

One of the big challenges in Linked Data consumption is to create visual and natural language interfaces to the data usable for non-technical users. Ontodia provides support for diagrammatic data exploration, showcased in this publication in combination with the Wikidata dataset. We present improvements to the natural language interface regarding exploring and querying Linked Data entities. The method uses models of distributional semantics to find and rank entity properties related to user input in Ontodia. Various word embedding types and model settings are evaluated, and the results show that user experience in visual data exploration benefits from the proposed approach.

研究动机与目标

• 通过支持超越精确标签匹配的语义匹配，提升非技术用户在探索链接数据时在Ontodia中的自然语言搜索能力。
• 评估多种预训练词嵌入模型（fastText、LexVec、GloVe）及其超参数在Wikidata中推荐语义相关实体属性的有效性。
• 证明通过词嵌入实现的分布语义表示可提升可视化数据探索的体验，减少对精确词汇匹配的依赖。
• 研究模型规模、向量维度以及是否包含属性描述对检索性能的影响。

提出的方法

• 通过分词和去除停用词后，将每个Wikidata属性表示为其中标签（及可选描述）的词嵌入向量之和。
• 使用相同方法将用户查询转换为向量表示：分词、去除停用词、并求和词向量。
• 通过查询向量与每个属性向量之间的余弦相似度，对所有实体属性进行排序，以识别语义相关的连接。
• 扩展搜索界面，返回精确匹配、别名匹配和基于嵌入的语义匹配结果，并按相似度得分排序。
• 在维基百科及其他语料库上训练并评估多种词嵌入模型（fastText、LexVec、GloVe），使用属性别名的黄金标准数据集。
• 使用MRR（平均倒数排名）和top-k准确率对模型在完整Wikidata及特定实体属性集上的性能进行定量评估。

实验结果

研究问题

• RQ1 词嵌入能否在Wikidata中有效推荐与自然语言查询语义相关的实体属性，而不仅限于精确标签匹配？
• RQ2 在准确率和鲁棒性方面，哪种预训练词嵌入模型（fastText、LexVec、GloVe）在此任务中表现最佳？
• RQ3 模型超参数（如词汇表大小和向量维度）如何影响属性推荐的性能？
• RQ4 在向量表示中包含属性描述是否能提升语义匹配的准确性？
• RQ5 所提出的方法能否显著提升用户在Ontodia中进行交互式可视化数据探索的体验？

主要发现

• fastText在所有评估设置中均优于LexVec和GloVe，在特定实体属性搜索任务中达到最高的MRR（0.78）。
• 使用300维向量和30万词汇表的组合性能最佳，而将词汇表缩小至10,000词则导致准确率急剧下降。
• 在向量表示中包含属性描述可提升性能，表明其提供了更丰富的语义表征。
• 在推荐特定实体别名对应的属性时，该方法实现了68.63%的top-1准确率和84.75%的top-3准确率，显示出极强的相关性。
• 在交互式场景中，查询响应时间低于10ms，表明系统适合实时用户交互。
• Wikidata中的数据质量问题（如非同义别名，例如将“divorced”用作“end time”的别名）导致误分类，凸显了数据清洗的改进空间。