[论文解读] BayesCard: Revitilizing Bayesian Frameworks for Cardinality Estimation

Zi‐Niu Wu, Amir Shaikhha+4 more|arXiv (Cornell University)|Dec 29, 2020

Bayesian Modeling and Causal Inference参考文献 46被引用 8

一句话总结

BayesCard 提出了一种新颖的框架，通过整合概率编程语言（PPL）技术，使贝叶斯网络在基数估计中焕发新生，实现了高精度、快速推理和高效训练。与最先进方法相比，其推理速度提升1–2个数量级，训练速度提升1–3个数量级，更新速度提升1–2个数量级，同时在各种数据环境下保持稳定性能，并可无缝集成到 PostgreSQL 等商业 DBMS 中。

ABSTRACT

Cardinality estimation (CardEst) is an essential component in query optimizers and a fundamental problem in DBMS. A desired CardEst method should attain good algorithm performance, be stable to varied data settings, and be friendly to system deployment. However, no existing CardEst method can fulfill the three criteria at the same time. Traditional methods often have significant algorithm drawbacks such as large estimation errors. Recently proposed deep learning based methods largely improve the estimation accuracy but their performance can be greatly affected by data and often difficult for system deployment. In this paper, we revitalize the Bayesian networks (BN) for CardEst by incorporating the techniques of probabilistic programming languages. We present BayesCard, the first framework that inherits the advantages of BNs, i.e., high estimation accuracy and interpretability, while overcomes their drawbacks, i.e. low structure learning and inference efficiency. This makes BayesCard a perfect candidate for commercial DBMS deployment. Our experimental results on several single-table and multi-table benchmarks indicate BayesCard's superiority over existing state-of-the-art CardEst methods: BayesCard achieves comparable or better accuracy, 1-2 orders of magnitude faster inference time, 1-3 orders faster training time, 1-3 orders smaller model size, and 1-2 orders faster updates. Meanwhile, BayesCard keeps stable performance when varying data with different settings. We also deploy BayesCard into PostgreSQL. On the IMDB benchmark workload, it improves the end-to-end query time by 13.3%, which is very close to the optimal result of 14.2% using an oracle of true cardinality.

研究动机与目标

• 解决数据库管理系统中长期存在的基数估计（CardEst）挑战，现有方法难以在精度、效率和系统可部署性之间取得平衡。
• 克服传统直方图和基于采样的方法的局限性，这些方法在数据变化下易出现高估计误差和不稳定性。
• 缓解基于深度学习的 CardEst 方法的缺点，包括泛化能力差、超参数敏感、缺乏可解释性和可复现性。
• 通过整合现代概率编程语言（PPL）技术，使贝叶斯网络——此前因结构学习和推理速度慢而难以应用于 DBMS——重获实用价值。
• 开发一个可投入生产的 CardEst 框架，满足三项核心标准：算法效率（A）、对数据变化的鲁棒性（D）和系统可部署性（S）。

提出的方法

• 利用概率编程语言（PPL）简化贝叶斯网络（BN）模型的构建，实现高效且自动化的结构学习与参数估计。
• 采用 Chow-Liu 树算法实现快速近似 BN 结构学习，既能捕捉属性间的成对依赖关系，又能保持模型紧凑性。
• 应用图优化（GR）和即时编译（JIT）编译技术，优化变量消除（VE）推理，显著降低延迟，同时不损失精度。
• 提出一种渐进式采样（PS）推理算法，作为复杂 DAG 结构 BN 的可扩展替代方案，支持连续属性，并确保低延迟估计。
• 通过引入专家知识纠正简化 BN 结构导致的精度下降，增强鲁棒性，同时不牺牲效率。
• 设计框架以同时支持精确推理（通过 VE+GR+JIT）和近似推理（通过 PS+GR），实现速度与精度之间的灵活权衡。

实验结果

研究问题

• RQ1 通过克服其历史性能瓶颈，能否有效使贝叶斯网络在现代 DBMS 中重新焕发用于基数估计？
• RQ2 概率编程语言（PPL）技术在多大程度上能提升基于 BN 的基数估计的效率与可扩展性？
• RQ3 与最先进深度学习方法和传统方法相比，BayesCard 在推理速度、训练时间、模型大小和更新效率方面表现如何？
• RQ4 BayesCard 是否能在不同数据分布、属性相关性和模式复杂度下保持稳定的估计精度？
• RQ5 BayesCard 是否能成功部署于真实 DBMS 环境中，从而提升端到端查询优化与执行性能？

主要发现

• BayesCard 在单表和多表基准测试中，估计精度与最先进方法（包括 DeepDB 和 MSCN）相当或更优。
• 与基线 BN 相比，BayesCard 将推理延迟降低了 1–2 个数量级，其中 VE+GR+JIT 相较原始变量消除（从 780 ms 降至 2.4 ms/查询）实现了 325 倍加速。
• 与基于深度学习的方法相比，BayesCard 将训练时间减少了 1–3 个数量级，模型大小也减少了 1–3 个数量级。
• BayesCard 实现了 1–2 个数量级的更快模型更新速度，使其在动态工作负载和增量数据变化场景下极具适用性。
• 在 IMDB 基准测试中，BayesCard 将端到端查询执行时间提升了 13.3%，接近使用真实基数时的最优提升（14.2%）。
• 该框架在不同数据设置下均保持稳定性能，包括不同的属性相关性、域大小和数据分布，展现出强大的鲁棒性。