[论文解读] Parallel queues with synchronization

Mariana Olvera‐Cravioto, Octavio Ruiz Lacedelli|arXiv (Cornell University)|Dec 31, 2014

Advanced Queuing Theory Analysis参考文献 39被引用 12

一句话总结

本文研究了一个多服务器排队系统，其中作业被拆分为多个片段并随机路由至服务器，在先到先服务（FCFS）调度下要求所有片段同步开始服务。通过高阶Lindley方程，该文在多服务器极限下建立了平稳等待时间分布，并推导出精确的尾部渐近性，推广了单服务器队列中的Cramér-Lundberg近似。

ABSTRACT

Motivated by the growing interest in today's massive parallel computing capabilities we analyze a queueing network with many servers in parallel to which jobs arrive a according to a Poisson process. Each job, upon arrival, is split into several pieces which are randomly routed to specific servers in the network, without centralized information about the status of the servers' individual queues. The main feature of this system is that the different pieces of a job must initiate their service in a synchronized fashion. Moreover, the system operates in a FCFS basis. The synchronization and service discipline create blocking and idleness among the servers, which is compensated by the fast service time attained through the parallelization of the work. We analyze the stationary waiting time distribution of jobs under a many servers limit and provide exact tail asymptotics; these asymptotics generalize the celebrated Cramér-Lundberg approximation for the single-server queue.

研究动机与目标

• 建立并分析一个大规模并行排队系统模型，其中作业被拆分并在分布式服务器间实现服务启动的同步。
• 理解同步机制与FCFS服务调度对系统性能的影响，特别是大规模并行计算环境中阻塞与空闲现象。
• 在多服务器渐近情形下，建立平稳等待时间分布，其中服务器数量与作业到达率均趋于无穷。
• 将经典单服务器队列中的Cramér-Lundberg近似推广至更复杂的同步多服务器场景。
• 为等待时间分布提供精确的尾部分析，揭示高负载场景下的精确大偏差行为。

提出的方法

• 将系统建模为具有N个并行服务器的排队网络，每个作业被随机拆分为片段并分配至服务器，且不依赖集中式队列状态信息。
• 施加两个关键约束：(1) 同一作业的所有片段必须同时开始服务（同步）；(2) 每个服务器的队列均遵循FCFS调度。
• 利用高阶Lindley方程在多服务器极限下推导平稳等待时间分布：$ W \stackrel{\mathcal{D}}{=} \left( \max_{1\leq i\leq N} (W_i + \chi_i - \tau_i) \right)^+ $，其中 $ W_i $ 表示服务器i的等待时间，$ \chi_i $ 为片段服务时间，$ \tau_i $ 为同步延迟。
• 应用随机不动点方程与加权分支过程，刻画等待时间分布的极限行为。
• 利用大偏差理论，结合Wasserstein距离与一致可积性论证，证明有限系统等待时间分布收敛至极限分布。
• 建立限制分布为内生解且满足高阶Lindley方程的条件。

实验结果

研究问题

• RQ1 在大规模并行排队系统中，作业片段在多个服务器间的同步如何影响平稳等待时间分布？
• RQ2 当服务器数量与作业到达率趋于无穷时，等待时间分布的渐近行为如何？
• RQ3 经典单服务器队列中的Cramér-Lundberg近似能否推广至这种同步多服务器场景？
• RQ4 该系统中等待时间分布的精确尾部分析是什么？其如何依赖于服务时间与路由特性？
• RQ5 在何种条件下，限制等待时间分布存在并满足所推导的高阶Lindley方程？

主要发现

• 在多服务器极限下，平稳等待时间被表征为高阶Lindley方程的内生解，涉及 $ N $ 个独立同分布随机变量 $ (W_i + \chi_i - \tau_i)^+ $ 的最大值。
• 本文推导出等待时间分布的精确尾部分析，推广了Cramér-Lundberg近似至同步多服务器情形。
• 在作业大小与路由分布满足较弱的矩条件与一致可积性条件下，证明了有限系统等待时间分布收敛至极限分布。
• 在服务时间与路由分布具有足够阶数的有限矩条件下，证明了极限分布是稳定且定义良好的。
• 证明依赖于Wasserstein距离收敛性与利用Gamma函数渐近展开及Jensen不等式控制近似误差的矩界。
• 通过随机不动点方程理论中的导数条件与根条件，验证了极限分布存在的条件，确保解唯一且行为良好。