[論文レビュー] BayesCard: Revitilizing Bayesian Frameworks for Cardinality Estimation

Zi‐Niu Wu, Amir Shaikhha+4 more|arXiv (Cornell University)|Dec 29, 2020

Bayesian Modeling and Causal Inference参考文献 46被引用数 8

ひとこと要約

BayesCardは、確率的プログラミング言語（PPL）技術を統合することで、ベイジアンネットワークの再活性化を図る画期的なフレームワークを提案する。高精度な推論、高速な学習、効率的なトレーニングを実現し、最先端の手法に比べて推論が1–2桁速く、学習が1–3桁速く、更新が1–2桁速い。さまざまなデータ設定において安定した性能を維持し、PostgreSQLのような商用DBMSへのシームレスな統合を可能にする。

ABSTRACT

Cardinality estimation (CardEst) is an essential component in query optimizers and a fundamental problem in DBMS. A desired CardEst method should attain good algorithm performance, be stable to varied data settings, and be friendly to system deployment. However, no existing CardEst method can fulfill the three criteria at the same time. Traditional methods often have significant algorithm drawbacks such as large estimation errors. Recently proposed deep learning based methods largely improve the estimation accuracy but their performance can be greatly affected by data and often difficult for system deployment. In this paper, we revitalize the Bayesian networks (BN) for CardEst by incorporating the techniques of probabilistic programming languages. We present BayesCard, the first framework that inherits the advantages of BNs, i.e., high estimation accuracy and interpretability, while overcomes their drawbacks, i.e. low structure learning and inference efficiency. This makes BayesCard a perfect candidate for commercial DBMS deployment. Our experimental results on several single-table and multi-table benchmarks indicate BayesCard's superiority over existing state-of-the-art CardEst methods: BayesCard achieves comparable or better accuracy, 1-2 orders of magnitude faster inference time, 1-3 orders faster training time, 1-3 orders smaller model size, and 1-2 orders faster updates. Meanwhile, BayesCard keeps stable performance when varying data with different settings. We also deploy BayesCard into PostgreSQL. On the IMDB benchmark workload, it improves the end-to-end query time by 13.3%, which is very close to the optimal result of 14.2% using an oracle of true cardinality.

研究の動機と目的

• データベース管理システムにおける長年の課題である基数推定（CardEst）に取り組み、既存手法が精度、効率性、システムへの統合可能性のバランスを取れていないことに対処する。
• 従来のヒストグラムおよびサンプリングベースの手法の限界を克服する。これらはデータの変動に対して高い推定誤差と不安定性を示す。
• ディープラーニングベースのCardEst手法の欠点を軽減する。具体的には、一般化性能の低さ、ハイパーパrameterへの感受性、解釈可能性と再現性の欠如。
• 従来、構造学習と推論が遅いためDBMSに実用的でなかったベイジアンネットワークを、現代の確率的プログラミング言語（PPL）技術を統合することで再活性化する。
• アルゴリズム効率（A）、データ変動へのロバストネス（D）、システムへのデプロイ性（S）の3つの基準を満たす生産環境向けCardEstフレームワークを構築する。

提案手法

• 確率的プログラミング言語（PPL）を活用し、ベイジアンネットワーク（BN）モデルの構築を簡素化。構造学習とパラメータ推定を効率的かつ自動化可能にする。
• 高速かつ近似的なBN構造学習のためのChow-Liuツリー法を採用。2変量間の依存関係を捉えつつ、モデルのコンactさを維持する。
• グラフリダクション（GR）とジャストインタイム（JIT）コンパイルを活用し、変数消去（VE）推論を最適化。精度を損なわずに遅延を著しく低減する。
• 複雑なDAG構造を持つBNに対してスケーラブルな代替手段として、プログレッシブサンプリング（PS）推論アルゴリズムを導入。連続的属性をサポートし、低遅延推定を実現する。
• 熟練知識を統合して、簡略化されたBN構造に起因する精度低下を是正。効率性を損なわず、よりロバストな性能を実現する。
• 正確な推論（VE+GR+JIT）と近似的な推論（PS+GR）の両方をサポートするフレームワークを設計。速度と精度の間で柔軟なトレードオフを可能にする。

実験結果

リサーチクエスチョン

• RQ1 歴史的な性能ボトルneckを克服することで、現代のDBMSにおける基数推定に向けたベイジアンネットワークの有効な再活性化は可能か？
• RQ2 確率的プログラミング言語（PPL）技術は、BNベースの基数推定の効率性とスケーラビリティをどの程度向上できるか？
• RQ3 BayesCardは、最先端のディープラーニングおよび従来の手法と比較して、推論速度、学習時間、モデルサイズ、更新効率の観点でどの程度の性能を示すか？
• RQ4 BayesCardは、さまざまなデータ分布、属性相関、スキーマの複雑さにおいても、安定した推定精度を維持するか？
• RQ5 BayesCardは、実世界のDBMS環境に実際に統合可能であり、エンドツーエンドのクエリ最適化と実行性能の向上に寄与できるか？

主な発見

• BayesCardは、単一テーブルおよびマルチテーブルのベンチマークにおいて、DeepDB や MSCN といった最先端手法と同等またはそれ以上の推定精度を達成する。
• ベースラインBNに比べ、推論遅延を1–2桁速くし、VE+GR+JITにより、元の変数消去（780 ms → 2.4 ms/クエリ）で325倍の高速化を達成する。
• ディープラーニングベースの手法と比較して、学習時間を1–3桁短縮し、モデルサイズも1–3桁小さくする。
• 1–2桁の高速化により、モデルの更新が著しく高速化され、動的ワークロードやインクリメンタルなデータ変更に非常に適している。
• IMDBベンチマークでは、エンドツーエンドのクエリ実行時間を13.3%改善し、真の基数値を用いたオラクル改善（14.2%）に近い結果を達成する。
• さまざまなデータ設定、すなわち異なる属性相関、ドメインサイズ、データ分布においても、安定した性能を維持し、強力なロバストネスを示す。