[論文レビュー] An Empirical Analysis of Deep Learning for Cardinality Estimation

Jennifer Ortiz, Magdalena Bałazińska+2 more|arXiv (Cornell University)|May 15, 2019

Data Stream Mining Techniques参考文献 62被引用数 22

ひとこと要約

本稿では、データベースクエリ最適化における基数推定のためのディープラーニングモデルを評価しており、単純なニューラルネットワークがPostgreSQLのものと比較して推定誤差を最大98％まで低減することを示している。最適化器に統合された際、これらのモデルはクエリ実行計画の選択を改善し、複雑なワークロードにおいて実行時間を最大49％短縮する。

ABSTRACT

We implement and evaluate deep learning for cardinality estimation by studying the accuracy, space and time trade-offs across several architectures. We find that simple deep learning models can learn cardinality estimations across a variety of datasets (reducing the error by 72% - 98% on average compared to PostgreSQL). In addition, we empirically evaluate the impact of injecting cardinality estimates produced by deep learning models into the PostgreSQL optimizer. In many cases, the estimates from these models lead to better query plans across all datasets, reducing the runtimes by up to 49% on select-project-join workloads. As promising as these models are, we also discuss and address some of the challenges of using them in practice.

研究の動機と目的

• リレーショナルデータベースにおける基数推定のためのディープラーニングモデルの実現可能性と性能を評価すること。
• 精度、学習時間、モデルサイズの観点から、従来の統計情報とツリー集合（tree ensembles）と比較して、ディープラーニングモデルの性能を評価すること。
• 学習された基数推定が、実際のクエリ実行計画および実行時間性能に与える影響を評価すること。
• クエリワークロードの変化に対するモデルの頑健性と、学習された表現の解釈可能性を調査すること。
• 学習オーバーヘッド、一般化性能、既存のデータベースシステムへの統合といった実用的課題に対処すること。

提案手法

• 実世界のデータセットを用いて、さまざまな深層ニューラルネットワーク（DNN）および再帰的ニューラルネットワーク（RNN）アーキテクチャを実装・学習し、基数推定に適用する。
• ラベル付きのクエリサブプラン（真の基数付き）を学習データとして用いる教師あり学習アプローチを採用する。
• 深さと幅を調整することでモデルの複雑さを変化させ、精度、推論時間、パラメータ数のトレードオフを調査する。
• 訓練済みのディープラーニングモデルをPostgreSQLのクエリ最適化器に統合し、実際のクエリ実行計画に与える影響を評価する。
• アクティブラーニング手法（例：不確実性サンプリング、クエリ・バイ・コミッティ）を適用し、必要な学習サンプル数を削減する。
• 学習された埋め込み表現の可視化を行い、トレーニング中にモデルが抽出する特徴を分析する。

実験結果

リサーチクエスチョン

• RQ1 単純なディープラーニングモデルは、従来のDBMS統計情報と比較して、基数推定の精度を顕著に向上させることができるか？
• RQ2 さまざまなディープラーニングアーキテクチャにおける、メモリ使用量、処理時間、精度のトレードオフは何か？
• RQ3 予測精度と学習オーバーヘッドの観点から、ディープラーニングモデルはツリー集合とPostgreSQLの組み込み推定器と比べてどの程度優れているか？
• RQ4 最適化器に統合されたディープラーニングベースの推定が、実際にどの程度クエリ実行性能を向上させるか？
• RQ5 ディープラーニングモデルは、クエリワークロード分布の変化に対してどの程度頑健か？

主な発見

• 単純なディープラーニングモデルは、PostgreSQLのデフォルト推定器と比較して、平均して72％～98％の推定誤差低減を達成する。
• PostgreSQLの最適化器に統合された際、ディープラーニングモデルは特定の選択・投影・結合ワークロードにおいて、クエリ実行時間を最大49％短縮する。
• 特定の条件下では、ツリー集合はディープラーニングモデルよりも高速に学習され、より高い精度を示すが、ストレージをより多く要する。
• ワークロードの分布変化に対して、ディープラーニングモデルはツリー集合よりも優れた頑健性を示す。特に、分布の変化に対して感受性が低い。
• QBCやQBC＋クラスタリングといったアクティブラーニング手法により、必要な学習サンプル数が削減され、小さなデータセットでも低損失を達成できる。
• 学習された埋め込み表現の可視化から、モデルが基本的な統計情報を超えて、意味的なデータ相関関係や分布パターンを捉えていることが明らかになった。