[論文レビュー] DeepDB: Learn from Data, not from Queries!

Benjamin Hilprecht, Andreas Schmidt+4 more|arXiv (Cornell University)|Sep 2, 2019

Data Stream Mining Techniques参考文献 37被引用数 19

ひとこと要約

DeepDB は、クエリワークロードではなくデータベースデータそのものに直接学習するデータ駆動型のアプローチを提案する。深層確率的モデル（関係的和積ネットワーク）を用い、データ更新後も再訓練を必要とせず、正確で一般化可能なクエリ処理、カーディナリティ推定、機械学習タスクを実現する。ワークロード駆動型のベースラインと比較して、精度と効率の両面で桁違いの優位性を示す。

ABSTRACT

The typical approach for learned DBMS components is to capture the behavior by running a representative set of queries and use the observations to train a machine learning model. This workload-driven approach, however, has two major downsides. First, collecting the training data can be very expensive, since all queries need to be executed on potentially large databases. Second, training data has to be recollected when the workload and the data changes. To overcome these limitations, we take a different route: we propose to learn a pure data-driven model that can be used for different tasks such as query answering or cardinality estimation. This data-driven model also supports ad-hoc queries and updates of the data without the need of full retraining when the workload or data changes. Indeed, one may now expect that this comes at a price of lower accuracy since workload-driven models can make use of more information. However, this is not the case. The results of our empirical evaluation demonstrate that our data-driven approach not only provides better accuracy than state-of-the-art learned components but also generalizes better to unseen queries.

研究の動機と目的

• ワークロード駆動型の学習DBMSコンponentにおける高コストかつ脆弱な再訓練の問題を解決すること。これは、クエリ実行が高価であり、頻繁な再訓練を要するためである。
• ワークロード固有のトレーニングを必要とせず、結合されたデータ分布を捉え、複数のタスクをサポートできるデータ駆動型の代替手法を開発すること。
• 再訓練なしにアドホックなクエリ処理と動的データ更新を可能にすること。
• データ駆動型モデルが、精度と一般化性能においてワークロード駆動型モデルを上回るかどうかを評価すること。
• 1つの学習済みモデルが、クエリ回答、カーディナリティ推定、機械学習タスクを同時にサポートできることを示すこと。

提案手法

• 関係的和積ネットワーク（RSPN）を用い、属性間の相関関係や周辺分布を含む結合データ分布を捉える深層確率的モデルを提案する。
• 確率的クエリコンパイレーション技術を採用し、SQLに類似したクエリをRSPN上の期待値や確率に変換することで、効率的な推論を実現する。
• 全データベースデータに対して一度だけRSPNモデルをトレーニングし、クエリごとやワークロードごとのトレーニングを回避する。
• 挿入、削除、更新などの直接的な更新を、完全な再トレーニングなしに段階的にモデルを調整することで対応する。
• 多様なクエリパターンにわたるモデルの頑健性と一般化性能を向上させるためにアンサンブル学習を活用する。
• SPNの構造を活用して、複雑なリlationsスキーマ上でも効率的な推論とスケーラブルな計算を実現する。

実験結果

リサーチクエスチョン

• RQ1 データベースデータにのみ学習させたデータ駆動型モデルが、ワークロード駆動型モデルよりも、4つ以上のジョインを含む未学習のクエリにおいて、カーディナリティ推定の精度で優れているか？
• RQ2 データ駆動型アプローチは、ワークロード駆動型モデルと比較して、未観測のクエリパターンへの一般化性能が優れているか？
• RQ3 1つの学習済みモデルが、再訓練なしにクエリ回答、カーディナリティ推定、機械学習タスクの複数のタスクを同時にサポートできるか？
• RQ4 データサイズやスキーマの複雑さが増すと、データ駆動型モデルの性能はどのようにスケーリングするか？
• RQ5 再訓練なしに、動的データ更新をどの程度処理できるか？

主な発見

• DeepDB は、4つ以上のジョインを含む未学習のクエリにおいて、ワークロード駆動型のMCSNモデルと比較して、カーディナリティ推定の精度で桁違いの優位性を示した。
• データ駆動型のRSPNモデルは、分布外のクエリにおいて、誤差率が低く抑えられることで、ワークロード駆動型モデルよりも顕著に一般化性能に優れていることが実証された。
• DeepDB は、再訓練なしにアドホックなクエリ処理とデータ更新を可能にしつつ、すべてのタスクで高い精度を維持した。
• 同じRSPNモデルは、回帰タスクにおいて標準的な機械学習モデルと同等のRMSEを達成しており、追加のトレーニング時間はゼロであった。
• DeepDB のモデルトレーニングは3時間未満で完了し、一度だけ実施される。これに対して、ワークロード駆動型モデルは再訓練のたびに高価なクエリ実行を繰り返す必要がある。
• DeepDB は、すべての評価ベンチマークにおいて、従来のおよび最先端の学習済みDBMSコンponentを上回る性能を示した。クエリ処理およびカーディナリティ推定の両面で優れた結果を達成した。