[论文解读] Path-Enhanced Multi-Relational Question Answering with Knowledge Graph Embeddings

Guanglin Niu, Yang Li+7 more|arXiv (Cornell University)|Oct 29, 2021

Advanced Graph Neural Networks参考文献 19被引用 8

一句话总结

该论文提出 PKEEQA，一种路径与知识嵌入增强的多关系知识图谱问答（KBQA）模型，通过可定制的路径表征机制，建模多跳路径与问题嵌入之间的双极相关性，从而提升答案准确率。该模型在稀疏知识图谱上表现优于现有基线模型，并通过检索到的路径提供可解释的推理过程。

ABSTRACT

The multi-relational Knowledge Base Question Answering (KBQA) system performs multi-hop reasoning over the knowledge graph (KG) to achieve the answer. Recent approaches attempt to introduce the knowledge graph embedding (KGE) technique to handle the KG incompleteness but only consider the triple facts and neglect the significant semantic correlation between paths and multi-relational questions. In this paper, we propose a Path and Knowledge Embedding-Enhanced multi-relational Question Answering model (PKEEQA), which leverages multi-hop paths between entities in the KG to evaluate the ambipolar correlation between a path embedding and a multi-relational question embedding via a customizable path representation mechanism, benefiting for achieving more accurate answers from the perspective of both the triple facts and the extra paths. Experimental results illustrate that PKEEQA improves KBQA models' performance for multi-relational question answering with explainability to some extent derived from paths.

研究动机与目标

• 解决现有 KBQA 模型虽使用知识图谱嵌入，却忽视路径语义的局限性。
• 通过利用多跳路径信息，在知识图谱稀疏性条件下提升多关系 KBQA 的答案准确率。
• 通过从主题实体到答案实体的可追溯路径，实现 KBQA 的可解释性。
• 开发一个可插拔的推理时模块，无需微调即可增强现有 KBQA 模型。
• 将路径嵌入与问题及实体嵌入相结合，建模超越三元组事实的语义相关性。

提出的方法

• 使用三种 KGE 模型（TransE、ComplEx 和 RotatE）预训练知识图谱嵌入。
• 在知识图谱中从主题实体到候选答案实体构建多跳关系路径。
• 设计一种可定制的路径表征机制，基于关系序列生成路径嵌入。
• 通过学习到的交互函数，计算路径嵌入与问题嵌入之间的双极相关性得分。
• 将基于路径的得分与传统的 KGE 基础得分一同整合到最终的答案评分函数中。
• 在推理过程中应用可学习的权重参数，以平衡基于路径的得分与基于三元组的得分的贡献。

实验结果

研究问题

• RQ1 将多跳路径语义引入是否能超越基于三元组的知识图谱嵌入，提升多关系 KBQA 的性能？
• RQ2 可定制的路径表征机制在捕捉路径与多关系问题之间语义相关性方面的有效性如何？
• RQ3 路径信息的整合是否通过提供可追溯的推理路径，增强了 KBQA 的可解释性？
• RQ4 在知识图谱稀疏性条件下，特别是当链接缺失时，该模型的性能表现如何？
• RQ5 当与路径表征结合时，哪种 KGE 模型（TransE、ComplEx、RotatE）表现最佳？

主要发现

• 在 MetaQA 数据集上，PKEEQA 达到最先进性能：在完整知识图谱下，1-hop 问题准确率为 98.0%，2-hop 为 99.3%，3-hop 为 95.1%。
• 在半知识图谱设置（KG-Half）下，PKEEQA 在 1-hop、2-hop 和 3-hop 问题上分别达到 85.0%、92.5% 和 70.7%，优于所有基线模型。
• 消融实验表明，路径信息（-Path）与双极相关性机制（-PT+PS）均至关重要，移除任一均导致性能下降。
• 基于 ComplEx 与乘法运算符路径表征的 PKEEQA 取得最佳结果，优于使用 TransE 和 RotatE 的模型。
• 该模型通过检索并展示从主题实体到答案实体的实际路径，提供可解释性，增强用户信任。
• PKEEQA 是一个可插拔模块，可在推理阶段无需微调即可增强现有 KBQA 模型，展现出良好的实际可部署性。