[论文解读] CPU Scheduling in Data Centers Using Asynchronous Finite-Time Distributed Coordination Mechanisms

Andreas Grammenos, Themistoklis Charalambous+1 more|arXiv (Cornell University)|Jan 15, 2021

Distributed and Parallel Computing Systems被引用 6

一句话总结

本文提出了一种异步、有限时间的分布式协调算法，用于数据中心的CPU调度，通过鲁棒比值一致性（robust ratio consensus）和最大一致性（max-consensus）机制，使节点在存在通信延迟的情况下，能够在预设误差范围内收敛到最优且均衡的工作负载分配。该方法确保了节点间有限时间收敛与同步终止，相较于集中式和迭代方法，在真实网络不确定性条件下展现出更优的可扩展性与响应速度。

ABSTRACT

We propose an asynchronous iterative scheme that allows a set of interconnected nodes to distributively reach an agreement within a pre-specified bound in a finite number of steps. While this scheme could be adopted in a wide variety of applications, we discuss it within the context of task scheduling for data centers. In this context, the algorithm is guaranteed to approximately converge to the optimal scheduling plan, given the available resources, in a finite number of steps. Furthermore, by being asynchronous, the proposed scheme is able to take into account the uncertainty that can be introduced from straggler nodes or communication issues in the form of latency variability while still converging to the target objective. In addition, by using extensive empirical evaluation through simulations we show that the proposed method exhibits state-of-the-art performance.

研究动机与目标

• 为解决大规模数据中心中集中式CPU调度面临的可扩展性与可靠性挑战。
• 设计一种分布式协调机制，即使在异步更新和有界通信延迟下，也能实现有限时间收敛。
• 在保持收敛于预设误差范围内的前提下，实现所有节点上迭代计算的同时终止。
• 基于各服务器的CPU容量，实现跨异构服务器的最优工作负载均衡，最小化整体利用率方差。
• 为ADMM等复杂求解器提供一种可扩展、低开销的替代方案，尤其适用于动态、实时调度场景。

提出的方法

• 采用基于鲁棒比值一致性的分布式迭代方案，每个节点维护两个状态变量，其比值收敛至全局常数。
• 集成异步最大一致性机制，以处理可变延迟并确保有限时间收敛。
• 在规划阶段显式将有界时变延迟作为通信链路的输入，使算法对网络抖动和慢速节点具有鲁棒性。
• 将全局优化问题分解为局部目标，使每个节点仅通过本地信息与邻居通信即可计算其最优工作负载分配。
• 基于时钟同步（非完全同步）实现一种节奏控制机制，每 (1 + τ̂)D 次迭代执行一次收敛检查。
• 保证有限时间终止，且最坏情况下的误差可事先界定，从而实现可预测且高效的调度周期。

实验结果

研究问题

• RQ1 在有界通信延迟下，分布式异步算法能否实现CPU调度中的有限时间收敛？
• RQ2 在缺乏全局协调或同步时钟的情况下，分布式节点如何就最优工作负载分配达成共识？
• RQ3 网络直径和延迟可变性对分布式调度中收敛速度与精度有何影响？
• RQ4 所提方法在收敛速度与资源效率方面能否优于集中式或迭代求解器（如ADMM）？
• RQ5 该算法在真实数据中心环境中如何处理慢速节点和动态工作负载变化？

主要发现

• 所提算法即使在有界时变延迟和异步更新下，也能在预设误差范围内实现有限时间收敛至最优调度方案。
• 实验评估表明，该方法在收敛速度与系统利用率方面达到当前最先进水平，优于集中式和迭代方法。
• 通过基于时钟节奏控制的机制，确保所有节点实现同步终止，而非依赖完全同步。
• 算法对先前工作中存在的单调性假设违反具有鲁棒性，通过中等直径和高延迟网络中的反例得到验证。
• 由于存在闭式解，该方法收敛速度优于ADMM及类似求解器，尤其在大规模场景下优势显著。
• 该方法可推广至其他需要异步、有限时间分布式协调的领域，如微电网频率调节与电压控制。