[论文解读] LMKG: Learned Models for Cardinality Estimation in Knowledge Graphs

Angjela Davitkova, Damjan Gjurovski+1 more|arXiv (Cornell University)|Feb 21, 2021

Advanced Graph Neural Networks参考文献 44被引用 4

一句话总结

LMKG 提出了一种深度学习框架，用于知识图谱中的基数估计，采用监督（LMKG-S）和无监督（LMKG-U）模型，通过一种新颖的 SG-Encoding 将 SPARQL 查询编码为子图模式。该框架通过学习子图模式之间的相关性，在估计精度和推理速度方面均优于现有方法，同时保持低内存占用，实现了最先进的准确性和效率。

ABSTRACT

Accurate cardinality estimates are a key ingredient to achieve optimal query plans. For RDF engines, specifically under common knowledge graph processing workloads, the lack of schema, correlated predicates, and various types of queries involving multiple joins, render cardinality estimation a particularly challenging task. In this paper, we develop a framework, termed LMKG, that adopts deep learning approaches for effectively estimating the cardinality of queries over RDF graphs. We employ both supervised (i.e., deep neural networks) and unsupervised (i.e., autoregressive models) approaches that adapt to the subgraph patterns and produce more accurate cardinality estimates. To feed the underlying data to the models, we put forward a novel encoding that represents the queries as subgraph patterns. Through extensive experiments on both real-world and synthetic datasets, we evaluate our models and show that they overall outperform the state-of-the-art approaches in terms of accuracy and execution time.

研究动机与目标

• 为解决由于缺乏模式、谓词相关性高以及复杂多连接 SPARQL 查询导致的 RDF 基于知识图谱中基数估计不准确的问题。
• 开发一个统一框架，支持知识图谱基数估计的监督与无监督深度学习模型。
• 设计一种有效的子图编码（SG-Encoding），在保留结构相关性的同时紧凑地表示复杂查询模式。
• 在真实世界和合成数据集上评估该框架，证明其在准确性和效率方面优于当前最先进的方法。

提出的方法

• LMKG 将基数估计建模为深度学习问题，通过从 SPARQL 查询中提取的子图模式进行建模。
• 提出 SG-Encoding，一种新颖且紧凑的表示方法，可捕捉多种子图模式（如星型和链式模式），同时降低输入维度。
• 对于监督学习，LMKG-S 使用在标注子图模式上训练的深度神经网络来预测基数。
• 对于无监督学习，LMKG-U 采用在采样子图模式上训练的自回归模型，无需真实标签即可估计选择性。
• 该框架采用高效的采样策略，为两种模型生成多样化且具代表性的训练数据，重点在于相关子图结构而非单个三元组。
• 模型被训练以捕捉谓词与项之间的相关性，避免传统估计技术中因假设独立性而导致的性能下降。

实验结果

研究问题

• RQ1 尽管缺乏模式且谓词相关性高，深度学习模型是否仍能有效估计知识图谱中的基数？
• RQ2 与单独处理三元组相比，建模子图模式在多大程度上提升了估计的准确性和效率？
• RQ3 所提出的 SG-Encoding 在表示复杂查询模式方面，与标准编码相比在多大程度上更优？
• RQ4 在多样化工作负载下，LMKG 的监督与无监督变体在准确性、内存使用和推理速度方面的表现如何比较？
• RQ5 在学习型基数估计中，关键的可扩展性与鲁棒性挑战是什么，以及如何加以缓解？

主要发现

• LMKG-S 和 LMKG-U 在真实世界与合成数据集上的估计精度均优于当前最先进的方法，其中 LMKG-S 达到最高精度。
• LMKG-S 的估计时间快于所有竞争对手，仅 CSET 略快，且内存占用较低——例如，在 SWDF 上 k=3 时仅需 43MB，远低于 MSCN 和 CSET。
• LMKG-U 在不同查询大小和类型下表现出更一致的性能，但在高术语多样性大尺寸数据集上内存消耗较高。
• SG-Encoding 实现了紧凑且信息丰富的输入表示，提升了模型泛化能力并减少了对训练数据量的需求。
• 异常查询对 LMKG-S 仍具挑战，但该框架支持缓冲列表机制以处理此类情况，为未来提升鲁棒性指明了方向。
• LMKG-U 的内存消耗随数据集大小和术语数量增加而上升，表明未来工作需优化采样策略或采用降维技术。