[論文レビュー] Effective Straggler Mitigation: Which Clones Should Attack and When?

Mehmet Fatih Aktaş, Pei Peng+1 more|arXiv (Cornell University)|Oct 2, 2017

Advanced Data Storage Technologies参考文献 5被引用数 6

ひとこと要約

本稿は、分散コンピューティングにおける遅延タスクの緩和に、レプリケーションとコーディングのどちらをいつ、どのように使用するかを調査し、特に重尾型タスク実行時間において、コーディングがより細かく粒度の細かい冗長性制御を可能にし、レイテンシとコストの両方をレプリケーションを上回って低減できることを示している。遅延された冗長性はコーディングには効果がなく、レプリケーションには有効であるが、最適なパフォーマンスは遅延時間ではなく冗長度の調整によって達成される。

ABSTRACT

Redundancy for straggler mitigation, originally in data download and more recently in distributed computing context, has been shown to be effective both in theory and practice. Analysis of systems with redundancy has drawn significant attention and numerous papers have studied pain and gain of redundancy under various service models and assumptions on the straggler characteristics. We here present a cost (pain) vs. latency (gain) analysis of using simple replication or erasure coding for straggler mitigation in executing jobs with many tasks. We quantify the effect of the tail of task execution times and discuss tail heaviness as a decisive parameter for the cost and latency of using redundancy. Specifically, we find that coded redundancy achieves better cost vs. latency and allows for greater achievable latency and cost tradeoff region compared to replication and can yield reduction in both cost and latency under less heavy tailed execution times. We show that delaying redundancy is not effective in reducing cost.

研究の動機と目的

• 遅延タスクの影響を受ける分散コンピューティングにおけるレイテンシとコストのトレードオフを分析すること。
• 遅延レプリケーションと遅延コーディングの有効性を比較し、遅延タスクを緩和するための戦略を検討すること。
• 両方のレイテンシとコストを低減するという点で、コーディングがレプリケーションを上回る条件を特定すること。
• レイテンシを増加させずにコストを最小化するための最適なタイミングと冗長度を同定すること。

提案手法

• ジョブ実行を、ノードに分割されたk個のタスクでモデル化し、ジョブが時間Δまでに完了しない場合にのみ、冗長性（レプリケーションまたはコーディング）を導入する。
• 実世界のワークロードを捉えるために、指数分布、シフト付き指数分布（SExp）、およびパレート分布の3種類のタスク実行時間分布を用いる。
• レプリケーションおよびコーディング（タスクキャンセルあり・なし）における期待レイテンシとコストの正確な解析的表現を導出する。
• 調和数、不完全ベータ関数、ガンマ関数などの特殊関数を用いて、さまざまな冗長性方式下でのシステム動作をモデル化する。
• ゼロ遅延と遅延付き冗長性戦略を比較し、尾の重さの異なる状況下でのコスト-レイテンシトレードオフを評価する。
• シミュレーションと解析的バウンディングを用いて、遅延コーディングの二段階的挙動を検証し、重尾分布下でのコーディングの優位性を確認する。

実験結果

リサーチクエスチョン

• RQ1 遅延された冗長性は、コーディングシステムにおいて、レイテンシを著しく増加させることなくコストを削減できるか？
• RQ2 レプリケーションとコーディングの選択が、達成可能なコスト-レイテンシトレードオフにどのように影響するか？
• RQ3 どのような条件下で、冗長性がレイテンシとコストの両方を同時に低減できるか？
• RQ4 コストを最小化しつつレイテンシを低く保つための最適な冗長性のタイミングと度合いは何か？
• RQ5 タスク実行時間の尾の重さは、冗長性の有効性にどのように影響するか？

主な発見

• コーディングによる冗長性は、より細かく粒度の細かい冗長性制御を可能にできるため、レプリケーションよりも優れたコスト-レイテンシトレードオフを実現する。
• 遅延された冗長性はコーディングに対しては効果がなく、コスト削減が実現されるまでの間に顕著なレイテンシ増加を引き起こす。したがって、最適化のためには遅延時間ではなく冗長度の調整がより効果的である。
• 重尾型タスク実行時間（例：α < 1.5 のパレート分布）では、レプリケーションとコーディングの両方がレイテンシを低減しつつ、ベースライン未満のコストを維持できるが、コーディングは尾指数の制約を著しく緩和する。
• ゼロ遅延コーディングでは、タスク実行時間が重尾型の場合、期待レイテンシが最大60％低下し、コストも最大50％削減される。
• ベースラインコストを超えない範囲での最小レイテンシは、レプリケーションでは尾指数α < 1.5 の場合にのみ達成可能であるが、コーディングではkが増加するにつれて制約が緩和され、より大きなジョブではコストフリーのレイテンシ低減が可能になる。
• シミュレーションにより、遅延コーディングに二段階的挙動が確認された：初期段階ではレイテンシが増加し、コスト削減はほとんどないが、臨界的な遅延閾値を超えると、その後に顕著なコスト削減が現れる。