[論文レビュー] Approximate Distributed Joins in Apache Spark

Do Le Quoc, İstemi Ekin Akkuş+5 more|arXiv (Cornell University)|May 15, 2018

Advanced Database Systems and Queries参考文献 34被引用数 5

ひとこと要約

この論文では、Apache Spark用の新しい近似分散ジョイン演算子であるApproxJoinを提案する。ApproxJoinは、ブールフィルタースケッチと層別抽出を組み合わせることで、データシャッフルと通信コストを削減しながら、ジョイン結果の統計的正確性を維持する。ジョイン不能なタプルを早期にフィルタリングし、ジョイン中にはバイアス補正付きの層別抽出を適用することで、標準のSparkジョインと比較して6–9倍の高速化と、シャッフルされるデータ量を5–82倍削減する。誤差の境界はきわめて厳密であり、事前の入力知識は不要である。

ABSTRACT

The join operation is a fundamental building block of parallel data processing. Unfortunately, it is very resource-intensive to compute an equi-join across massive datasets. The approximate computing paradigm allows users to trade accuracy and latency for expensive data processing operations. The equi-join operator is thus a natural candidate for optimization using approximation techniques. Although sampling-based approaches are widely used for approximation, sampling over joins is a compelling but challenging task regarding the output quality. Naive approaches, which perform joins over dataset samples, would not preserve statistical properties of the join output. To realize this potential, we interweave Bloom filter sketching and stratified sampling with the join computation in a new operator, ApproxJoin, that preserves the statistical properties of the join output. ApproxJoin leverages a Bloom filter to avoid shuffling non-joinable data items around the network and then applies stratified sampling to obtain a representative sample of the join output. Our analysis shows that ApproxJoin scales well and significantly reduces data movement, without sacrificing tight error bounds on the accuracy of the final results. We implemented ApproxJoin in Apache Spark and evaluated ApproxJoin using microbenchmarks and real-world case studies. The evaluation shows that ApproxJoin achieves a speedup of 6-9x over unmodified Spark-based joins with the same sampling rate. Furthermore, the speedup is accompanied by a significant reduction in the shuffled data volume, which is 5-82x less than unmodified Spark-based joins.

研究の動機と目的

• Apache Sparkのような分散システムにおける、大規模データセットにおける等価ジョインの高い通信コストと計算コストを低減すること。
• 事前計算された統計情報やインデックスが不要な、アドホックな分析ワークロード向けに、正確で低遅延の近似クエリ処理を可能にすること。
• 入力データの単純なサンプリングがもたらすバイアスと不正確さを克服し、実際のジョイン出力の統計的性質を保持すること。
• 推定されたジョインカーディナリティに基づいて動的にサンプリングレートを調整するシステムを設計し、ユーザーが定義した遅延と正確性の制約を満たすこと。
• 主キー、ヒストограм、キャッシュされたサンプルなどの事前の知識を必要とせず、任意の未インデックス化されたデータに対して利用可能になるようにすること。

提案手法

• シャッフルの前段階で非ジョイン可能なタプルをブールフィルターでフィルタリングすることで、ネットワークを横切るデータ移動量を顕著に削減する。
• ブールフィルターを用いてジョイン結果のカーディナリティを推定し、ユーザーが指定した正確性と遅延要件を満たすように動的サンプリングレートを選択する。
• 残った潜在的にジョイン可能なタプルに対して、ジョイン処理中に層別抽出を適用し、完全なジョイン出力の代表的サンプルを生成する。
• ホルヴィッツ＝トーマス推定法を用いて潜在的なサンプリングバイアスを補正し、中心極限定理を活用して近似の統計的信頼性を保証する。
• Apache SparkにApproxJoin演算子を統合し、標準ジョインのドロップインリプレースとして提供し、二重ジョインおよびマルチウェイジョインを両方サポートする。
• 事前条件を必要としないシステム設計を実現し、主キー、外部キー、または入力データに関する事前計算された統計情報に依存しないようにする。

実験結果

リサーチクエスチョン

• RQ1 近似結果の正確性を損なわず、分散環境における等価ジョインの通信オーバーヘッドを削減することは可能か？
• RQ2 ジョイン処理中に実行されるサンプリングが、完全なジョイン出力の統計的性質を保持できることをどのように保証できるか？単純な入力サンプリングによるバイアスを回避するにはどうすればよいか？
• RQ3 実行時におけるジョインカーディナリティの推定に基づいて、動的にサンプリングレートを調整することは可能か？これにより、ユーザーが定義した正確性と遅延の制約を満たせるか？
• RQ4 事前計算された統計情報、ヒストограм、またはインデックスが不要な状態で、近似ジョインにおいて高いパフォーマンスと低コストのデータシャッフルを達成することは可能か？
• RQ5 ブールフィルタリングと層別抽出の組み合わせは、従来の近似ジョイン技術と比較して、どれほど速く、どれほどデータ移動量を削減できるか？

主な発見

• 同じサンプリングレートを使用した場合、ApproxJoinは標準のSparkベースの等価ジョインと比較して6–9倍の高速化を達成し、クエリ応答時間を顕著に短縮する。
• 変更のないSparkジョインと比較して、シャッフルされるデータ量を5–82倍削減する。これは、通信コストの顕著な削減を示している。
• サンプリングを一切行わない状態でも、ApproxJoinは標準のSparkジョインと比較して2–10倍の高速化を達成しており、ブールフィルターによるフィルタリングそのものにも性能向上効果があることが示されている。
• ホルヴィッツ＝トーマス推定法によるバイアス補正のおかげで、誤差の境界がきわめて厳密に保たれ、信頼性の高い統計的信頼区間が得られる。
• 本手法は二重ジョインおよびマルチウェイジョインの両方で有効であり、主キーと外部キーの関係や事前計算された統計情報が不要である。
• マイクロベンチマーク、TPC-Hクエリ、および実世界のワークロードにおける評価により、多様な分析ワークロードにおいて本手法の頑健性とスケーラビリティが確認された。