[論文レビュー] Task-Cloning Algorithms in a MapReduce Cluster with Competitive Performance Bounds

Huanle Xu, Wing Cheong Lau|arXiv (Cornell University)|Jan 10, 2015

Cloud Computing and Resource Management参考文献 18被引用数 5

ひとこと要約

本稿では、MapReduceクラスタ向けに、短時間残り処理時間（SRPT）の原則を活用することで重み付きジョブフローワイムを最小化する、新しいオンラインタスククローンアルゴリズムSRPTMS+Cを提案する。本手法は(1+ε)-速度 o(1/ε²)-競合比を達成し、Mantriベースラインと比較して重み付き／非重み付きジョブフローワイムを約25%削減する。マップリダクスのフェーズ順序制約を尊重しながら、従来のヒューリスティックベースの手法よりも形式的な性能保証を備え、優れた性能を発揮する。

ABSTRACT

Job scheduling for a MapReduce cluster has been an active research topic in recent years. However, measurement traces from real-world production environment show that the duration of tasks within a job vary widely. The overall elapsed time of a job, i.e. the so-called flowtime, is often dictated by one or few slowly-running tasks within a job, generally referred as the "stragglers". The cause of stragglers include tasks running on partially/intermittently failing machines or the existence of some localized resource bottleneck(s) within a MapReduce cluster. To tackle this online job scheduling challenge, we adopt the task cloning approach and design the corresponding scheduling algorithms which aim at minimizing the weighted sum of job flowtimes in a MapReduce cluster based on the Shortest Remaining Processing Time scheduler (SRPT). To be more specific, we first design a 2-competitive offline algorithm when the variance of task-duration is negligible. We then extend this offline algorithm to yield the so-called SRPTMS+C algorithm for the online case and show that SRPTMS+C is $(1+ε)-speed$ $o(\frac{1}{ε^2})-competitive$ in reducing the weighted sum of job flowtimes within a cluster. Both of the algorithms explicitly consider the precedence constraints between the two phases within the MapReduce framework. We also demonstrate via trace-driven simulations that SRPTMS+C can significantly reduce the weighted/unweighted sum of job flowtimes by cutting down the elapsed time of small jobs substantially. In particular, SRPTMS+C beats the Microsoft Mantri scheme by nearly 25% according to this metric.

研究の動機と目的

• ストラグル問題（遅延するタスクがジョブ完了時間を著しく延長する問題）を解消するため。
• マップとリダクスフェーズ間の順序制約を考慮しつつ、重み付きジョブフローワイムの合計を最小化するスケジューリングアルゴリズムを設計するため。
• タスク実行時間の事前知識が限られるオンラインジョブスケジューリングに対して、性能保証（競合比）を提供するため。
• タスク実行時間の分布全体ではなく、第一モーメントと第二モーメントのみを用いることで、完全な分布依存を低減するため。
• Mantriのようなヒューリスティックベースのスペキュラティブ実行手法よりも、証明可能な効率性と低いシステムインstrumentationオーバーヘッドを実現するため。

提案手法

• マップとリダクスフェーズ間の順序制約を満たす条件下で、重み付きジョブフローワイムを最小化するための確率的最適化問題としてジョブスケジューリング問題を定式化する。
• タスク実行時間の分散が無視できるものと仮定し、SRPTスケジューラーにインspiredされたオフライン2-競合比アルゴリズムを設計する。
• 理論的下界を克服するため、リソース拡張（1+ε-速度）を用いて、オフラインアルゴリズムをオンライン設定に拡張するSRPTMS+Cアルゴリズムを導入する。
• ポテンシャル関数解析を適用し、オンラインケースにおけるSRPTMS+Cのo(1/ε²)-競合比の上界を導出する。
• 有効ワークロード推定に基づき、残り処理時間が短いタスクを優先してバックアップコピーを起動することで、タスククローンを統合する。
• 実世界のジョブトレースを用いたトレース駆動シミュレーションにより性能を評価し、クラスタサイズやパラメータの変動に応じてSRPTMS+CをSCAおよびMantriと比較する。

実験結果

リサーチクエスチョン

• RQ1 タスククローンアルゴリズムは、MapReduceクラスタにおいて重み付きジョブフローワイムを最小化するという点で、形式的な競合性能保証を達成できるか？
• RQ2 マップ・リダクスフェーズ間の順序制約を尊重することで、その制約を無視する場合と比較して、スケジューリング効率がどのように向上するか？
• RQ3 タスク実行時間の分布全体ではなく、第一および第二モーメントのみを用いることで、アルゴリズムの性能にどのような影響が生じるか？
• RQ4 SRPTMS+Cアルゴリズムは、Mantriのようなヒューリスティックベースの手法と比較して、フローワイム削減とシステムオーバーヘッドの点でどのように優れているか？
• RQ5 パラメータ設定（ε, r）をどのように選べば、フローワイム削減とリソース利用効率のトレードオフを最適化できるか？

主な発見

• トレース駆動シミュレーションにおいて、SRPTMS+CはMantriベースラインと比較して、重み付きジョブフローワイムの合計を約25%削減する。
• オンラインスケジューリングにおいて、SRPTMS+Cは(1+ε)-速度 o(1/ε²)-競合比を達成し、形式的な性能保証を提供する。
• 小規模ジョブでは、SRPTMS+Cでは100秒以内に50%以上が完了するが、SCAでは46%、Mantriでは44%にとどまる。
• 大規模ジョブでは、SRPTMS+Cでは1000秒以内に90%が完了するが、SCAは88%、Mantriは86%にとどまる。
• オフラインアルゴリズムは、タスク実行時間の分散が無視できる場合に2-競合比を達成し、高確率での完了時間境界を提供する。
• 8K台のマシンでも、12Kマシンクラスタと同等のフローワイム性能を達成しており、リソース利用効率の高さが示された。