[論文レビュー] Optimization for Speculative Execution of Multiple Jobs in a MapReduce-like Cluster

Huanle Xu, Wing Cheong Lau|arXiv (Cornell University)|Jun 3, 2014

Cloud Computing and Resource Management参考文献 12被引用数 5

ひとこと要約

本稿では、変動するワークロード下でのMapReduceに類似したクラスタにおける最適化に基づく予測実行スキームを提案する。軽負荷のクラスタに対してはスマートクローンアルゴリズム（SCA）とストラグラー検出アルゴリズム（SDA）を、重負荷のクラスタに対しては拡張予測実行（ESE）アルゴリズムを導入し、ベースライン手法と比較して、それぞれ最大60%および18%のジョブフローフライトタイムの短縮を達成しながら、同程度のリソース使用量を維持した。

ABSTRACT

Nowadays, a computing cluster in a typical data center can easily consist of hundreds of thousands of commodity servers, making component/ machine failures the norm rather than exception. A parallel processing job can be delayed substantially as long as one of its many tasks is being assigned to a failing machine. To tackle this so-called straggler problem, most parallel processing frameworks such as MapReduce have adopted various strategies under which the system may speculatively launch additional copies of the same task if its progress is abnormally slow or simply because extra idling resource is available. In this paper, we focus on the design of speculative execution schemes for a parallel processing cluster under different loading conditions. For the lightly loaded case, we analyze and propose two optimization-based schemes, namely, the Smart Cloning Algorithm (SCA) which is based on maximizing the job utility and the Straggler Detection Algorithm (SDA) which minimizes the overall resource consumption of a job. We also derive the workload threshold under which SCA or SDA should be used for speculative execution. Our simulation results show both SCA and SDA can reduce the job flowtime by nearly 60% comparing to the speculative execution strategy of Microsoft Mantri. For the heavily loaded case, we propose the Enhanced Speculative Execution (ESE) algorithm which is an extension of the Microsoft Mantri scheme. We show that the ESE algorithm can beat the Mantri baseline scheme by 18% in terms of job flowtime while consuming the same amount of resource.

研究の動機と目的

• 遅延するタスク（ストラグル）が全体のジョブを遅らせる大規模コンピューティングクラスタにおけるストラグル問題に対処すること。
• 軽負荷および重負荷の両クラスタ環境において、ジョブの利得とリソース消費のバランスを取る最適化駆動の予測実行戦略を設計すること。
• 軽負荷と重負荷のクラスタ運用レジームを区別するワークロードの閾値を導出すること。
• マイクロソフトのMantriのようなヒューリスティックベースの予測実行手法を上回る、データ駆動型で分析的最適化フレームワークを導入すること。

提案手法

• 軽負荷クラスタにおけるジョブ利得とリソース消費を同時に最適化する一般化されたクローンベースのフレームワークを提案する。
• スマートクローンアルゴリズム（SCA）を導入し、最適化基準に基づいて戦略的にバックアップタスクのコピーを起動することで、ジョブ利得を最大化する。
• ストラグル検出アルゴリズム（SDA）を開発し、ストラグルが検出された後に最適な数のバックアップコピーを起動することで、リソース消費を最小化する。
• クラスタ運用レジーム（軽負荷 vs. 重負荷）を分類する理論的ワークロード閾値を導出する。これにより、レジームに応じた戦略選択が可能になる。
• マイクロソフトのMantriのスキームを拡張した拡張予測実行（ESE）アルゴリズムを提案し、重負荷クラスタにおけるジョブ完了時間を短縮する。
• パレート分布に従うタスク実行時間に基づく確率的モデリングとシミュレーションを用いて、さまざまなシステムパラメータ下でのパフォーマンスを評価する。

実験結果

リサーチクエスチョン

• RQ1 軽負荷のMapReduceに類似したクラスタにおいて、リソース消費を最小限に抑えつつジョブ利得を最大化する最適な予測実行戦略は何か？
• RQ2 軽負荷クラスタにおいて、ストラグル検出を最適化することでリソース使用量を最小化する方法は何か？
• RQ3 軽負荷と重負荷のクラスタ運用レジームを分ける理論的ワークロード閾値は何か？
• RQ4 重負荷クラスタにおいて、リソース消費を増加させずにジョブフローフライトタイムを短縮するための予測実行をどのように強化できるか？
• RQ5 最適化に基づく手法は、マイクロソフトのMantriのようなヒューリスティックベースの手法よりも、ジョブ完了時間とリソース効率の点で優れているか？

主な発見

• SCAおよびSDAアルゴリズムは、軽負荷クラスタにおいてマイクロソフトのMantriの予測実行戦略と比較して、ジョブフローフライトタイムをほぼ60%短縮した。
• ESEアルゴリズムは、重負荷クラスタにおいてマイクロソフトのベースラインと比較してジョブフローフライトタイムを18%短縮したが、リソース消費量は同じであった。
• 本稿で導出されたワークロード閾値は、軽負荷と重負荷のクラスタ運用レジームを効果的に分離できており、適切な戦略選択を可能にした。
• 単一ジョブのシナリオにおいて、パラメータα = 2のパレート分布において、形状母数σi ≈ 1.7のとき、リソース消費とフローフライトタイムの両面で最適なパフォーマンスが達成された。
• 重負荷クラスタに適用した場合、SCAおよびSDAはリソース競合とスケジューリング遅延のため、性能が劣ることが確認され、レジームに特化したアルゴリズムの必要性が裏付けられた。
• シミュレーション結果から、ESEアルゴリズムは高到着レートのシナリオにおいてMantriを著しく上回り、80%のジョブが10時間単位以内に完了する一方、ベースラインでは18時間単位以内に完了した。