[论文解读] Answering Complex Logical Queries on Knowledge Graphs via Query Computation Tree Optimization

Yushi Bai, Xin Lv+2 more|arXiv (Cornell University)|Dec 19, 2022

Advanced Graph Neural Networks被引用 6

一句话总结

该论文提出QTO（查询计算树优化），一种基于优化的新方法，通过利用树状计算图，高效计算不完整知识图谱上复杂逻辑查询的精确最优解。通过在查询计算树上应用前向-后向传播并利用结构独立性，QTO实现了最先进性能，在复杂查询问答任务上平均优于先前方法22%，在解释中间实体分配方面准确率超过90%。

ABSTRACT

Answering complex logical queries on incomplete knowledge graphs is a challenging task, and has been widely studied. Embedding-based methods require training on complex queries, and cannot generalize well to out-of-distribution query structures. Recent work frames this task as an end-to-end optimization problem, and it only requires a pretrained link predictor. However, due to the exponentially large combinatorial search space, the optimal solution can only be approximated, limiting the final accuracy. In this work, we propose QTO (Query Computation Tree Optimization) that can efficiently find the exact optimal solution. QTO finds the optimal solution by a forward-backward propagation on the tree-like computation graph, i.e., query computation tree. In particular, QTO utilizes the independence encoded in the query computation tree to reduce the search space, where only local computations are involved during the optimization procedure. Experiments on 3 datasets show that QTO obtains state-of-the-art performance on complex query answering, outperforming previous best results by an average of 22%. Moreover, QTO can interpret the intermediate solutions for each of the one-hop atoms in the query with over 90% accuracy. The code of our paper is at https://github.com/bys0318/QTO.

研究动机与目标

• 为解决现有基于嵌入的方法在不完整知识图谱上回答复杂逻辑查询时面临的泛化性与可解释性挑战。
• 克服基于优化方法中因近似导致准确率受限的指数级搜索空间问题。
• 开发一种无需在复杂查询上进行训练即可找到复杂查询精确最优解的方法。
• 为逻辑查询中的中间变量提供忠实且可解释的实体分配。
• 确保在长链与简单查询上推理的理论最优性与高效率。

提出的方法

• QTO将复杂逻辑查询表述为一种树状计算图，即查询计算树，以利用子查询之间的结构独立性。
• 通过前向传播递归最大化每个变量节点为根的子查询的实体分配似然度。
• 采用带argmax操作的后向传播以恢复最可能的实体分配，从而实现中间结果的可解释性。
• QTO利用预训练的KGE模型对一跳原子进行打分，并将这些分数整合进树优化框架。
• 优化基于知识图谱邻接矩阵的稀疏矩阵运算，支持GPU加速推理。
• 理论分析证明，在给定公式下，QTO可找到全局最优解。

实验结果

研究问题

• RQ1 基于优化的方法能否在不需在复杂查询上进行训练的前提下，为不完整知识图谱上的复杂逻辑查询实现精确最优解？
• RQ2 如何利用查询计算树中的结构独立性来缩小搜索空间并实现高效计算？
• RQ3 与CQD等近似方法相比，QTO在分布外查询结构上的准确率与鲁棒性方面有多大程度的提升？
• RQ4 QTO能否在无缺失链接的长推理链与简单查询上均保持高准确率与可解释性？
• RQ5 与现有方法相比，QTO在预测答案集基数方面表现如何？

主要发现

• 在三个基准数据集上，QTO在复杂查询问答任务上相比先前最先进方法平均提升22%。
• 在存在正向一阶逻辑查询上，QTO相比先前SOTA方法性能提升13.5%。
• 对于含否定的查询，QTO相比先前SOTA方法提升37.5%。
• QTO是首个保证对简单查询（即无缺失链接的查询）提供精确解的方法，在此类情况下Hits@1达到100%。
• 该方法对中间实体分配的解释准确率超过90%，展现出高可解释性。
• QTO在基数预测方面显著优于GNN-QE，答案集大小估计的平均绝对百分比误差更低。