[論文レビュー] A Learning Framework for Self-Tuning Histograms

Raajay Viswanathan, Prateek Jain+2 more|arXiv (Cornell University)|Nov 30, 2011

Sparse and Compressive Sensing Techniques参考文献 23被引用数 5

ひとこと要約

本稿では、クエリフィードバックを用いた自己調整ヒストグラムのための学習理論的フレームワークを提案し、スケーラブルで高精度なカーディナリティ推定を実現する。EquiHist（等幅ヒストグラム用）とSpHist（ハールウェーブレットを用いてヒストグラム学習をスパースベクトル回復問題に還元）を導入し、実世界の多次元データにおいてISOMERと比較して最大50％低い誤差を達成する。

ABSTRACT

In this paper, we consider the problem of estimating self-tuning histograms using query workloads. To this end, we propose a general learning theoretic formulation. Specifically, we use query feedback from a workload as training data to estimate a histogram with a small memory footprint that minimizes the expected error on future queries. Our formulation provides a framework in which different approaches can be studied and developed. We first study the simple class of equi-width histograms and present a learning algorithm, EquiHist, that is competitive in many settings. We also provide formal guarantees for equi-width histograms that highlight scenarios in which equi-width histograms can be expected to succeed or fail. We then go beyond equi-width histograms and present a novel learning algorithm, SpHist, for estimating general histograms. Here we use Haar wavelets to reduce the problem of learning histograms to that of learning a sparse vector. Both algorithms have multiple advantages over existing methods: 1) simple and scalable extensions to multi-dimensional data, 2) scalability with number of histogram buckets and size of query feedback, 3) natural extensions to incorporate new feedback and handle database updates. We demonstrate these advantages over the current state-of-the-art, ISOMER, through detailed experiments on real and synthetic data. In particular, we show that SpHist obtains up to 50% less error than ISOMER on real-world multi-dimensional datasets.

研究の動機と目的

• 頻繁にアクセスされないデータに無駄にリソースを消費するワークロードに依存しないヒストグラムの限界を是正し、更新に適応できない点を解消する。
• ISOMERのような既存の自己調整手法が持つスケーラビリティとロバストネスの問題を克服し、貴重なクエリフィードバックを無視し、高次元または一貫性のないデータで困難を抱える問題を解決する。
• すべての利用可能なクエリフィードバックを活用し、期待推定誤差を最小化する理論的根拠に基づいたスケーラブルな学習フレームワークを構築する。
• 最近のフィードバックに自然に重みを付けることで、データベースの更新に対しても動的かつ効果的なヒストグラムメンテナンスを可能にする。
• 等幅ヒストグラムに対する理論的保証を提供し、最小限のオーバーヘッドで多次元データにフレームワークを拡張する。

提案手法

• クエリフィードバックレコード（QFRs）を未知の分布からの訓練例とみなして、ヒストグラム学習を経験的リスク最小化問題として定式化する。
• すべてのQFRsを活用し、期待誤差を最小化する1次元等幅ヒストグラム用の学習アルゴリズムEquiHistを提案し、近似品質に関する理論的境界を提示する。
• ハールウェーブレット変換を用いてヒストグラムをスパースベクトルとして表現し、問題をスパースベクトル回復に還元するSpHistを導入する。
• 直交一致 Pursuit（OMP）アルゴリズムを変更し、QFRsからウェーブレット係数を学習可能にすることで、効率的かつ高精度なヒストグラム推定を実現する。
• 次元ごとにウェーブレット変換を適用することで、多次元データへの自然な拡張性を持つフレームワークを設計する。
• 最近のQFRsに高い重みを付けることで動的フィードバックを統合し、データ更新や一貫性のないフィードバックに対してもロバストな適応性を実現する。

実験結果

リサーチクエスチョン

• RQ1 等幅ヒストグラムはどのような状況で優れた性能を発揮し、どのような状況で劣るのか。また、自己調整設定においてその近似品質について理論的保証を提供できるか。
• RQ2 ヒューリスティックなプリーニングを行わず、すべての利用可能なクエリフィードバックを活用するスケーラブルでロバストな学習フレームワークを設計できるか。
• RQ3 ウェーブレットに基づくスパース性を用いて、高次元またはスパースなデータにおける一般ヒストグラムの効果的な表現と学習は可能か。
• RQ4 スパースベクトル回復技術は、最大エントロピー法やグリッドベース手法と比較して、ヒストグラムの精度とスケーラビリティを向上させられるか。
• RQ5 フレームワークは、動的ワークロードとデータベースの更新を処理しながら、精度と効率を維持できるか。

主な発見

• SpHistは、実世界の多次元データセットにおいてISOMERと比較して最大50％低いカーディナリティ推定誤差を達成し、特にバケット数が少ない場合に顕著な優位性を示す。
• EquiHistは、自己調整設定における等幅ヒストグラムに対して、理論的保証を初めて提供し、適切な仮定のもとでその誤差が最適ヒストグラムに限りなく近づくことを示した。
• フレームワークは一貫性のないクエリフィードバックを効果的に処理でき、最近のQFRsに重みを付けることでインクリメンタルな更新に対してもロバストである。
• SpHistは、高次元かつスパースな設定でも真の背後分布を良好に回復することができた—特にCensus 2-Dデータセットで高い忠実度を示した。
• EquiHistおよびSpHistは、ヒストグラムバケット数とクエリフィードバックレコード数の両方に対して効率的にスケーリングされ、メモリおよび時間の両面でISOMERを上回った。
• ハールウェーブレットの使用により、区分的定数信号（すなわちヒストグラム）の効果的な圧縮が可能となり、スパースなフィードバックからスパース回復を用いて高精度な推定が可能になった。