[論文レビュー] DRS: Dynamic Resource Scheduling for Real-Time Analytics over Fast Streams

Tom Z. J. Fu, Jianbing Ding+4 more|arXiv (Cornell University)|Jan 15, 2015

Cloud Computing and Resource Management参考文献 31被引用数 12

ひとこと要約

DRS は、クラウドベースのデータストリーム管理システム（DSMS）向けの動的リソーススケジューラーであり、キューイング理論に基づくパフォーマンスモデルを用いて、リアルタイムでオペレータ間のリソース割り当てを最適化する。正確なプロセッサ要件予測により低遅延応答を実現し、リソースの無駄を削減するとともに、ワークロードの変動があってもリアルタイム制約を維持する。

ABSTRACT

In a data stream management system (DSMS), users register continuous queries, and receive result updates as data arrive and expire. We focus on applications with real-time constraints, in which the user must receive each result update within a given period after the update occurs. To handle fast data, the DSMS is commonly placed on top of a cloud infrastructure. Because stream properties such as arrival rates can fluctuate unpredictably, cloud resources must be dynamically provisioned and scheduled accordingly to ensure real-time response. It is quite essential, for the existing systems or future developments, to possess the ability of scheduling resources dynamically according to the current workload, in order to avoid wasting resources, or failing in delivering correct results on time. Motivated by this, we propose DRS, a novel dynamic resource scheduler for cloud-based DSMSs. DRS overcomes three fundamental challenges: (a) how to model the relationship between the provisioned resources and query response time (b) where to best place resources; and (c) how to measure system load with minimal overhead. In particular, DRS includes an accurate performance model based on the theory of \emph{Jackson open queueing networks} and is capable of handling \emph{arbitrary} operator topologies, possibly with loops, splits and joins. Extensive experiments with real data confirm that DRS achieves real-time response with close to optimal resource consumption.

研究の動機と目的

• リアルタイムデータストリーム処理システムにおけるクラウドリソースの動的スケジューリングの課題に対処すること。
• 各オペレータの計算リソース要件を正確に推定することで、低遅延応答を確保すること。
• リソースの無駄を最小限に抑え、誤ったプロセッサ割り当てによるシステム不安定化を回避すること。
• 複雑でループ付きまたは分岐付きのオペレータトポロジにおいて、効率的かつスケーラブルなリソースプロビジョニングを可能にすること。
• スケジューリングのオーバーヘッドを低減しながら、厳密なリアルタイムパフォーマンス保証を維持すること。

提案手法

• DRS は、到着率と処理率に基づいて応答時間を予測するため、ジャクソンのオープンキューイングネットワークモデルを採用する。
• スプリット、ジョイン、フィードバックループを考慮したパフォーマンスモデルを用いて、動的に最適なプロセッサ割り当てを計算する。
• 最小限のオーバーヘッドでシステムメトリクスを監視し、応答時間がしきい値を超えた際に再プロビジョニングをトリガーする。
• ワークロードの変化に応じてリソース追加（スケーリングアウト）と削除（スケーリングイン）の両方をサポートする。
• Apache Storm と統合され、移行コストを最小限に抑える軽量な再バランスメカニズムが使用される。
• 測定とスケジューリングの論理を分離し、測定は総リソース数に依存せず、スケジューリングは総エグゼキュータ数に線形に比例する。

実験結果

リサーチクエスチョン

• RQ1 リアルタイム応答制約を満たすために、必要なプロセッサ数を正確に予測するにはどうすればよいか？
• RQ2 ストリーミングシステムにおいて、複雑で可能性のある循環的トポロジにわたるリソースを最も効率的にスケジューリングする方法は何か？
• RQ3 スケジューリングの正確性を維持しつつ、最小限の監視オーバーヘッドでシステム負荷を測定するにはどうすればよいか？
• RQ4 スケジューラ自体のパフォーマンスオーバーヘッドはどの程度で、システムサイズに伴いどのようにスケーリングするか？
• RQ5 実行時において、リソース再構成を最小限の混乱と遅延で実行するにはどうすればよいか？

主な発見

• DRS は、実世界の動画分析ワークロードで検証された結果、近似的に最適なリソース消費量でリアルタイム応答を達成する。
• 入力レートが予測不能に変動する高負荷環境でも、応答時間が 500ms 未満を維持する。
• DRS の計算オーバーヘッドは無視できるほど小さく、全テスト構成でスケジューリング時間は 1.3ms 未満、測定時間は 0.1ms 未満である。
• DRS の再バランスは、Storm のデフォルトメカニズムと比較して著しく低いオーバーヘッドを示し、既存マシンの削除時にも特に顕著である。
• 理論的仮定（例：指数分布のサービス時間）が実際には完全に満たされていなくても、パフォーマンスモデルは依然として頑健である。
• フィードバックループを含む複雑なトポロジにおいても、リソース割り当てを事前に調整することで、過負荷の伝搬を効果的に防止する。