[论文解读] MDS coding is better than replication for job completion times

Ken R. Duffy, Seva Shneer|arXiv (Cornell University)|Jul 25, 2019

Cooperative Communication and Network Coding参考文献 31被引用 5

一句话总结

该论文表明，在调度器无法获知队列状态的多服务器系统中，最大距离可分（MDS）编码在减少作业完成时间方面优于复制机制。通过将 n 个作业编码为 n+m 个随机线性组合并发送至随机服务器，系统在任意 n 个编码作业完成时即实现批量完成——其性能随冗余数 m 呈线性扩展，而复制机制的代价则随副本数 d 呈乘法增长，因此在存在大量慢启动作业的环境中，MDS 编码可显著提升完成速度与可靠性。

ABSTRACT

In a multi-server system, how can one get better performance than random assignment of jobs to servers if queue-states cannot be queried by the dispatcher? A replication strategy has recently been proposed where $d$ copies of each arriving job are sent to servers chosen at random. The job's completion time is the first time that the service of any of its copies is complete. On completion, redundant copies of the job are removed from other queues so as not to overburden the system. For digital jobs, where the objects to be served can be algebraically manipulated, and for servers whose output is a linear function of their input, here we consider an alternate strategy: Maximum Distance Separable (MDS) codes. For every batch of $n$ digital jobs that arrive, $n+m$ linear combinations are created over the reals or a large finite field, and each coded job is sent to a random server. The batch completion time is the first time that any $n$ of the $n+m$ coded jobs are served, as the evaluation of $n$ original jobs can be recovered by Gaussian elimination. If redundant jobs can be removed from queues on batch completion, we establish that in order to get the improved response-time performance of sending $d$ copies of each of $n$ jobs via the replication strategy, with the MDS methodology it suffices to send $n+d$ jobs. That is, while replication is multiplicative, MDS is linear.

研究动机与目标

• 为解决在调度器无法获取队列状态的多服务器系统中最小化作业完成时间的挑战。
• 在上述约束条件下，比较复制（发送 d 份副本）与 MDS 编码（将作业编码为 n+m 个线性组合）的性能表现。
• 证明 MDS 编码在减少尾部延迟和缓解慢启动问题方面具有更优的响应时间性能。
• 正式分析并证明：当 m 足够大时，MDS 编码的完成时间分布相对于复制机制具有随机优势。

提出的方法

• 系统在实数域或大有限域上，将 n 个原始作业编码为 n+m 个随机线性组合，并将每个编码作业分配至随机选择的服务器。
• 批量完成时间定义为任意 n 个编码作业中首个完成的时间点，此时可通过高斯消去法恢复原始的 n 个作业。
• 分析将作业驻留时间建模为分布为 F_W(t) 的独立同分布随机变量，并利用独立同分布随机变量的顺序统计量，推导完成时间分布的尾部行为。
• 论文利用已知的顺序统计结果，推导出非冗余响应时间尾部生存函数的微分方程，结合工作负载与指数服务时间模型。
• 证明当 m ≥ 4 时，MDS 完成时间分布在整个时间轴上均随机优于复制机制，而不仅限于尾部区域。
• 该证明依赖于生存函数的渐近分析，表明其尾部分布呈指数衰减，并确立在足够大的 m 条件下，MDS 响应时间在随机意义下小于复制机制。

实验结果

研究问题

• RQ1 当队列状态未知时，MDS 编码是否在作业完成时间性能上优于复制机制？
• RQ2 与复制机制依赖副本数 d 的性能依赖关系相比，MDS 编码的性能如何随冗余编码作业数 m 的增加而扩展？
• RQ3 MDS 编码在完成时间分布上何时开始对复制机制形成随机支配？
• RQ4 在分布式计算系统中，MDS 编码是否能比复制机制更有效地缓解慢启动问题？
• RQ5 在 MDS 编码与复制机制下，完成时间尾部分布之间的数学关系是什么？

主要发现

• MDS 编码通过显著缩短批量完成时间分布的尾部，实现了优于复制机制的性能，且改进程度随冗余作业数呈指数增长。
• 当 m ≥ 4 时，MDS 批量完成时间分布对所有时间点均随机优于复制机制，而不仅限于尾部区域。
• 性能增益与 m 呈线性关系：为达到 d 份复制副本的响应时间，MDS 仅需 n + d 个编码作业，因此比复制机制的乘法扩展更高效。
• MDS 下的完成时间由 n+m 个独立同分布驻留时间的第 n 个顺序统计量决定，其尾部分布衰减速度远快于复制机制下 d 个独立同分布时间的最小值。
• 分析证明了 MDS 响应时间的生存函数呈指数衰减，衰减速率取决于冗余作业数，且在 m 足够大时，其衰减速度超过复制机制。
• 论文确立了 MDS 编码不仅在尾部表现更优，且当 m ≥ 4 时在整个分布上均随机支配复制机制，证实其在所有性能场景下的全面优越性。