[论文解读] Effective Straggler Mitigation: Which Clones Should Attack and When?

Mehmet Fatih Aktaş, Pei Peng+1 more|arXiv (Cornell University)|Oct 2, 2017

Advanced Data Storage Technologies参考文献 5被引用 6

一句话总结

本文研究在分布式计算中缓解慢启动者（straggler）时，何时以及是否应使用复制（replication）或编码（coding）技术。研究结果表明，编码能够实现更细粒度的冗余控制，在减少延迟和成本方面优于复制，尤其在任务执行时间呈现重尾分布时。延迟引入冗余对编码无效，但对复制有效，最优性能可通过调节冗余度而非延迟时间实现。

ABSTRACT

Redundancy for straggler mitigation, originally in data download and more recently in distributed computing context, has been shown to be effective both in theory and practice. Analysis of systems with redundancy has drawn significant attention and numerous papers have studied pain and gain of redundancy under various service models and assumptions on the straggler characteristics. We here present a cost (pain) vs. latency (gain) analysis of using simple replication or erasure coding for straggler mitigation in executing jobs with many tasks. We quantify the effect of the tail of task execution times and discuss tail heaviness as a decisive parameter for the cost and latency of using redundancy. Specifically, we find that coded redundancy achieves better cost vs. latency and allows for greater achievable latency and cost tradeoff region compared to replication and can yield reduction in both cost and latency under less heavy tailed execution times. We show that delaying redundancy is not effective in reducing cost.

研究动机与目标

• 分析在存在慢启动者效应时，分布式计算中延迟与成本之间的权衡。
• 比较延迟复制与延迟编码在缓解慢启动者方面的有效性。
• 确定在何种条件下编码在降低延迟和成本方面优于复制。
• 识别在不增加延迟的前提下最小化成本的最佳冗余引入时机与冗余度。

提出的方法

• 使用 k 个任务在节点间分配的模型来模拟作业执行，仅当作业在时间 Δ 时尚未完成时才引入冗余（复制或编码）。
• 采用三种任务执行时间分布：指数分布、位移指数分布（SExp）和帕累托分布，以捕捉不同现实工作负载的特性。
• 推导在引入冗余（含与不含任务取消）的复制与编码方案下，期望延迟与成本的精确解析表达式。
• 应用特殊函数（如调和数、不完全贝塔函数和伽马函数）来建模不同冗余方案下的系统行为。
• 比较零延迟与延迟冗余策略，评估在不同尾部权重水平下的成本-延迟权衡。
• 通过仿真和解析边界验证延迟编码的两阶段行为，并证明在重尾分布下编码的优越性。

实验结果

研究问题

• RQ1 在编码系统中，延迟冗余是否能有效降低成本而不显著增加延迟？
• RQ2 在复制与编码之间选择如何影响可实现的成本-延迟权衡？
• RQ3 在何种条件下冗余可同时降低延迟与成本？
• RQ4 为最小化成本并保持低延迟，冗余的最佳引入时机与冗余度是什么？
• RQ5 任务执行时间的尾部权重如何影响冗余的有效性？

主要发现

• 编码冗余在成本-延迟权衡方面优于复制，因为它支持更细粒度的冗余控制。
• 延迟冗余对编码无效，因为其在成本降低之前会造成显著的延迟增加，因此通过调节冗余度而非延迟时间进行优化更为有效。
• 对于重尾任务执行时间（如 α < 1.5 的帕累托分布），复制与编码均可在成本低于基线水平的同时降低延迟，但编码显著放宽了尾指数的约束条件。
• 在零延迟编码下，当任务执行时间呈现重尾分布时，与无冗余相比，期望延迟最多可降低 60%，成本最多可降低 50%。
• 仅当尾指数 α < 1.5 时，复制才可能在不超出基线成本的前提下实现最低可达成的延迟；而编码在 k 增大时该约束条件放宽，使大规模作业可实现无成本的延迟降低。
• 仿真结果证实，延迟编码冗余呈现两阶段行为：初期延迟增加但成本降低有限，仅在超过临界延迟阈值后才出现显著成本节约。