[论文解读] Near Delay-Optimal Scheduling of Batch Jobs in Multi-Server Systems

Yin Sun, C. Emre Koksal+1 more|arXiv (Cornell University)|Sep 28, 2023

Advanced Queuing Theory AnalysisBusiness, Management and Accounting被引用 3

一句话总结

本文针对具有新型优于旧型（NBU）服务时间分布的多服务器系统中的批量作业，提出了近似延迟最优的调度策略——最少未分配任务（FUT）、最早截止日期（EDD）和先来先服务（FCFS）。证明了FUT在平均延迟上的延迟差距为常数加法，而FCFS在平均最大延迟和p-范数延迟上均处于最优值的两倍以内，采用新颖的样本路径随机序技术。

ABSTRACT

We study a class of scheduling problems, where each job is divided into a batch of unit-size tasks and these tasks can be executed in parallel on multiple servers with New-Better-than-Used (NBU) service time distributions. While many delay optimality results are available for single-server queueing systems, generalizing these results to the multi-server case has been challenging. This motivated us to investigate near delay-optimal scheduling of batch jobs in multi-server queueing systems. We consider three lowcomplexity scheduling policies: the Fewest Unassigned Tasks first (FUT) policy, the Earliest Due Date first (EDD) policy, and the First-Come, First-Served (FCFS) policy. We prove that for arbitrary number, batch sizes, arrival times, and due times of the jobs, these scheduling policies are near delay-optimal in stochastic ordering for minimizing three classes of delay metrics among all causal and non-preemptive policies. In particular, the FUT policy is within a constant additive delay gap from the optimum for minimizing the mean average delay, and the FCFS policy within twice of the optimum for minimizing the mean maximum delay and the mean p-norm of delay. The key proof tools are several novel samplepath orderings, which can be used to compare the sample-path delay of different policies in a near-optimal sense.

研究动机与目标

• 解决多服务器系统中延迟最优调度的挑战，其中单服务器延迟最优结果的推广长期存在困难。
• 克服多服务器确定性系统中平均延迟最小化的NP难问题，以及多类多服务器环境下随机调度的不可解性。
• 设计低复杂度、因果性且非抢占式的调度策略，使其在任意作业参数下对多种延迟度量均具有可证明的近似最优性。
• 建立统一的样本路径方法，利用随机序比较策略性能，而无需依赖特定系统模型假设。

提出的方法

• 提出三种低复杂度调度策略：FUT、EDD和FCFS，专为多服务器系统中因果性、非抢占式任务分配而设计。
• 利用新颖的样本路径排序方法比较不同策略的延迟性能，实现无需完整系统模型规格的随机优势比较。
• 应用随机序如随机优势（$\leq_{\text{st}}$）和递增凸序（$\leq_{\text{icx}}$）来界定NBU分布下剩余服务时间的上界。
• 利用指数随机变量作为剩余NBU服务时间的随机优势代理，推导完成延迟的上界。
• 构建策略轨迹之间的耦合，证明弱工作高效性排序，确保某一策略在样本路径延迟上始终不劣于另一策略。
• 通过最大剩余服务时间在活跃服务器上的条件期望推导延迟差距的解析上界，利用无记忆性特性与顺序统计量。

Figure 1 : A centralized queueing system, where a scheduler assigns the tasks of arrived jobs to the servers.

实验结果

研究问题

• RQ1 在具有任意作业参数和NBU服务时间分布的多服务器批量作业系统中，低复杂度调度策略能否实现近似延迟最优？
• RQ2 FUT策略与最优平均延迟的差距有多近？其与最优解的加法延迟差距是多少？
• RQ3 对于最小化平均最大延迟和延迟的p-范数，FCFS策略能提供怎样的性能保证？
• RQ4 能否开发一种统一的样本路径方法，在不依赖系统特定假设的前提下比较不同调度策略的延迟表现？
• RQ5 在何种条件下，FUT、EDD和FCFS策略对一般延迟度量类可实现近似延迟最优？

主要发现

• FUT策略在最优平均延迟上的延迟差距为常数加法，其上界仅依赖于服务器服务速率和每项作业的任务数。
• FCFS策略在最小化平均最大延迟和平均$ p $-范数延迟方面，性能处于最优值的两倍以内，提供了乘法性能保证。
• 对于FUT策略，所有任务分配完成后预期完成延迟的上界为$\sum_{l=1}^{k_i \wedge m} \frac{1}{\sum_{j=1}^{l} \mu_j}$，该值进一步被上界控制为$\ln(k_i \wedge m) + 1$。
• 在NBU分布下，部分完成任务的剩余服务时间被均值相同的指数随机变量随机支配，从而实现可处理的上界。
• 样本路径方法表明，FUT在弱工作高效性上优于任何其他因果性、非抢占式策略，确保在样本路径比较中延迟表现更优或相等。
• 由于结果对任意作业到达时间、截止时间、批次大小和作业数量均成立，即使在稳态分布不存在的非平稳到达过程下也依然有效。

Figure 2 : An illustration of $V_{i}$ and $C_{i}$ . There are 2 servers, and job $i$ has 3 tasks denoted by $(i,1)$ , $(i,2)$ , $(i,3)$ . Tasks $(i,1)$ and $(i,3)$ are assigned to Server 1, and Task $(i,2)$ is assigned to Server 2. By time $V_{i}$ , all tasks of job $i$ have started service. By time