[论文解读] Learning to Optimize DAG Scheduling in Heterogeneous Environment

Jinhong Luo, Zhou, Yunfan+4 more|arXiv (Cornell University)|Mar 9, 2021

Cloud Computing and Resource Management参考文献 18被引用 5

一句话总结

该论文提出 LACHESIS，一种基于强化学习的两阶段算法，利用图神经网络（GNN）感知有向无环图（DAG）工作负载中的任务依赖关系，并采用启发式规则进行异构集群中的任务复制与执行器分配。该方法在最先进基线方法基础上，将完成时间（makespan）减少高达 26.7%，速度提升（speedup）提高 35.2%。

ABSTRACT

Scheduling job flows efficiently and rapidly on distributed computing clusters is one of huge challenges for daily operation of data centers. In a practical scenario, a single job consists of numerous stages with complex dependency relation represented as a Directed Acyclic Graph (DAG) structure. Nowadays a data center usually equips with a cluster of heterogeneous computing servers which are different in the hardware/software configuration. From both the cost saving and environmental friendliness, the data centers could benefit a lot from optimizing the job scheduling problems in the heterogeneous environment. Thus the problem has attracted more and more attention from both the industry and academy. In this paper, we propose a task-duplication based learning algorithm, namely \lachesis \footnote{The second of the Three Fates in ancient Greek mythology, who determines destiny.}, aiming to optimize the problem. In the proposed approach, it first perceives the topological dependencies between jobs using a reinforcement learning framework and a specially designed graph neural network (GNN) to select the most promising task to be executed. Then the task is assigned to a specific executor with the consideration of duplicating all its precedent tasks according to an expert-designed rules. We have conducted extensive experiments over standard workloads to evaluate the proposed solution. The experimental results suggest that \lachesisquad can achieve at most 26.7\% reduction of makespan and 35.2\% improvement of speedup ratio over seven strong baseline algorithms, including the state-of-the-art heuristics methods and a variety of deep reinforcement learning based algorithms.

研究动机与目标

• 解决异构计算环境中执行器能力各异时，高效调度 DAG 作业的挑战。
• 通过任务复制和动态执行器分配，减少完成时间并提高速度提升。
• 设计一种基于学习的调度框架，实现实时数据中心工作负载中复杂、动态且大规模的任务依赖关系的自适应调度。
• 在批量和连续作业到达场景下，均优于现有的启发式与深度强化学习调度算法。

提出的方法

• 使用图神经网络（GNN）编码 DAG 任务的拓扑结构，捕捉依赖关系。
• 强化学习策略网络基于 GNN 编码的状态表示，选择下一个要执行的任务。
• 启发式规则确定所选任务的最优执行器，包括是否复制其前驱任务以减少通信开销。
• 战略性地应用任务复制，通过平衡计算与通信成本，最小化端到端作业完成时间。
• 该框架采用两阶段流水线：(1) 通过强化学习策略进行任务选择；(2) 使用专家设计规则进行执行器分配与复制决策。
• 系统在批量和连续作业到达模式下，基于标准工作负载和真实数据中心模式进行评估。

实验结果

研究问题

• RQ1 强化学习结合 GNN 能否有效建模异构调度环境中复杂的 DAG 依赖关系？
• RQ2 与不复制的基线方法相比，任务复制在异构集群中能在多大程度上改善完成时间和速度提升？
• RQ3 所提出的 LACHESIS 算法在性能和推理时间方面，与最先进深度学习和启发式调度方法相比如何？
• RQ4 基于学习的方法能否在保持低决策延迟的同时，扩展到大规模、动态的工作负载？

主要发现

• 在所有测试场景中，LACHESIS 相较于性能最佳的基线算法，将完成时间最多减少 26.7%。
• LACHESIS 的速度提升比第二好的算法最高高出 35.2%，展现出卓越的可扩展性和效率。
• 在批量模式下，98% 的 LACHESIS 决策在 30ms 内完成，表明其具备出色的实时性能。
• 在连续模式下，LACHESIS 相较于第二好的算法，平均完成时间最多减少 7.4%，表现出在动态工作负载中的鲁棒性。
• LACHESIS 的速度提升损失比（SLR）在所有评估算法中始终最低，表明其调度质量极高。
• 由于其有效的复制与执行器选择策略，LACHESIS 在大规模和连续作业到达场景下，甚至优于先进的模型如 Decima-DEFT。