[論文レビュー] Efficient Straggler Replication in Large-scale Parallel Computing

Wang Da, Gauri Joshi+1 more|arXiv (Cornell University)|Mar 11, 2015

Cloud Computing and Resource Management参考文献 24被引用数 5

ひとこと要約

本稿では、大規模並列コンピューティングにおける遅延タスクのリプリケーションを最適化するための数学的枠組みを提案し、ジョブの遅延と計算コストのトレードオフを分析する。タスク実行時間のモデル化とリプリケーション戦略の最適化（いつリプリケートするか、何個のレプリカを生成するか、元のタスクを終了するか否か）により、特にパレート分布のような重尾分布に従う実行時間分布下では、最小限のリプリケーションでも遅延を著しく低減でき、リソースコストも削減できることを示している。

ABSTRACT

In a cloud computing job with many parallel tasks, the tasks on the slowest machines (straggling tasks) become the bottleneck in the job completion. Computing frameworks such as MapReduce and Spark tackle this by replicating the straggling tasks and waiting for any one copy to finish. Despite being adopted in practice, there is little analysis of how replication affects the latency and the cost of additional computing resources. In this paper we provide a framework to analyze this latency-cost trade-off and find the best replication strategy by answering design questions such as: 1) when to replicate straggling tasks, 2) how many replicas to launch, and 3) whether to kill the original copy or not. Our analysis reveals that for certain execution time distributions, a small amount of task replication can drastically reduce both latency as well as the cost of computing resources. We also propose an algorithm to estimate the latency and cost based on the empirical distribution of task execution time. Evaluations using samples in the Google Cluster Trace suggest further latency and cost reduction compared to the existing replication strategy used in MapReduce.

研究の動機と目的

• 大規模並列ジョブにおける遅延タスクによる遅延ボトル neck を解消すること。
• タスクリプリケーションに起因する追加の計算リソースコストとジョブ完了時間のトレードオフを分析すること。
• タイミング、リプリケート数、元のタスクの処理方法を考慮し、遅延とコストの両方を最小化する最適なリプリケーション戦略を設計すること。
• 解析的形が困難な場合に、実測実行時間分布から遅延とコストの性能指標を推定する実用的なアルゴリズムを開発すること。
• 実際のクラスタトレースを用いて、MapReduceと同等の既存システムと比較して、提案戦略の有効性を検証すること。

提案手法

• 順序統計と極値理論を用いて、リプリケートされた遅延タスクの完了時間をモデル化する。
• 吸引域理論を適用し、異なる実行時間分布下でのリプリケートタスクの最小値の極限分布を特徴づける。
• 元のタスクを終了するか維持するかを含む、さまざまなリプリケーションポリシー下での期待ジョブ完了時間と期待コストの閉形式表現を導出する。
• 解析的形が得られない場合に、実測タスク実行時間分布から性能指標を推定するためのアルゴリズムを提案する。
• 一般化されたパレート分布と極値理論を用いて、クラウド環境で一般的な重尾実行時間分布をモデル化する。
• 実際のGoogleクラスタトレースを用いて、従来のMapReduceスタイルのリプリケーション戦略と比較して、フレームワークの有効性を検証する。

実験結果

リサーチクエスチョン

• RQ1 リソースコストを制御しつつジョブ遅延を最小化するための最適なタスクリプリケート割合は何か？
• RQ2 1つの遅延タスクあたりのレプリカ数は、遅延とコストのトレードオフにどのように影響するか？
• RQ3 リプリケート後、元のタスクを終了すべきか、それとも実行を継続すべきか？
• RQ4 どのような実行時間分布下で、最小限のリプリケーションが最小限のコスト増加で最大の遅延低減をもたらすか？
• RQ5 実測タスク実行時間データから、遅延とコストの性能指標を正確に推定するにはどうすればよいか？

主な発見

• パレート分布のような重尾実行時間分布では、わずかにリプリケートされた遅延タスクであっても、ジョブ完了時間を著しく短縮できる。
• 遅延タスクのリプリケートにより、非リプリケートジョブと比較して遅延が最大140倍まで低減可能であり、リソースコストの増加はわずかである。
• 最適なリプリケーション戦略は、実行時間分布の尾部の挙動に依存し、特にパレート分布に従うタスクではリプリケーションによる恩恵が最大である。
• リプリケート後に元のタスクを終了する戦略は、特にリプリケート比が高い場合に、維持する戦略よりも期待コストを低く抑え、より迅速な完了を実現する。
• 実測分布からの遅延とコスト推定のための提案アルゴリズムは、Googleクラスタトレースデータにおいて、ベースラインのMapReduceリプリケーション戦略を上回る性能を示した。
• フレームワークにより、遅延と総コストの両方を低減する領域が特定され、一般的に「低い遅延は常に高いリソース使用を要する」という仮定に反する結果が得られた。