[论文解读] Tailored Learning-Based Scheduling for Kubernetes-Oriented Edge-Cloud System

Yiwen Han, Shihao Shen+3 more|arXiv (Cornell University)|Jan 17, 2021

Cloud Computing and Resource Management参考文献 24被引用 5

一句话总结

该论文提出KaiS，一种面向Kubernetes架构的边缘-云系统的学习型调度框架，采用多智能体强化学习与图神经网络，动态优化请求分发与服务编排。通过学习策略而无需依赖系统模型假设，其吞吐量比基线高14.3%，调度成本低34.7%。

ABSTRACT

Kubernetes (k8s) has the potential to merge the distributed edge and the cloud but lacks a scheduling framework specifically for edge-cloud systems. Besides, the hierarchical distribution of heterogeneous resources and the complex dependencies among requests and resources make the modeling and scheduling of k8s-oriented edge-cloud systems particularly sophisticated. In this paper, we introduce KaiS, a learning-based scheduling framework for such edge-cloud systems to improve the long-term throughput rate of request processing. First, we design a coordinated multi-agent actor-critic algorithm to cater to decentralized request dispatch and dynamic dispatch spaces within the edge cluster. Second, for diverse system scales and structures, we use graph neural networks to embed system state information, and combine the embedding results with multiple policy networks to reduce the orchestration dimensionality by stepwise scheduling. Finally, we adopt a two-time-scale scheduling mechanism to harmonize request dispatch and service orchestration, and present the implementation design of deploying the above algorithms compatible with native k8s components. Experiments using real workload traces show that KaiS can successfully learn appropriate scheduling policies, irrespective of request arrival patterns and system scales. Moreover, KaiS can enhance the average system throughput rate by 14.3% while reducing scheduling cost by 34.7% compared to baselines.

研究动机与目标

• 解决Kubernetes中缺乏原生调度框架以管理地理分布、异构的边缘与云资源的问题。
• 应对由于工作负载和网络条件变化导致的边缘-云系统中动态、非线性行为及复杂依赖关系的挑战。
• 设计一种可扩展的、去中心化的调度解决方案，与原生Kubernetes组件兼容，以支持实际部署。
• 在无需准确预测服务响应时间、网络延迟或请求到达模式的前提下，实现长期吞吐量优化。
• 通过分层、分步调度与双时间尺度协调机制，降低调度成本与编排复杂度。

提出的方法

• 采用协同多智能体演员-critic算法，实现在边缘接入点（eAPs）的去中心化请求分发，避免集中式动作空间爆炸。
• 利用图神经网络（GNNs）将系统状态信息——包括资源可用性、网络延迟与系统结构——嵌入低维表示。
• 将GNN嵌入的状态与多个策略网络结合，通过分步编排决策降低调度动作的维度。
• 实施双时间尺度调度机制：在eAPs上进行快速分发决策，在少数高价值边缘节点上进行较慢但优化的服务部署。
• 设计框架以兼容原生Kubernetes组件，实现与现有云基础设施的无缝集成。
• 定义以最大化长期系统吞吐量并最小化调度成本为目标的奖励函数，支持通过强化学习实现端到端策略学习。

实验结果

研究问题

• RQ1 基于学习的调度框架是否能在不依赖系统模型假设的前提下，有效管理Kubernetes原生边缘-云环境中的请求分发与服务编排？
• RQ2 多智能体强化学习如何适应大规模、分层的边缘-云系统中动态工作负载下的去中心化分发？
• RQ3 图神经网络在异构、分布式边缘-云环境中，能在多大程度上提升系统状态表示的可扩展性与准确性？
• RQ4 双时间尺度调度机制如何在实时请求处理中平衡响应速度与优化效率？
• RQ5 与现有基线相比，所提出的框架是否能在多种工作负载模式与系统规模下实现显著的吞吐量提升与成本降低？

主要发现

• 在所有测试的工作负载模式下，KaiS相比最接近的基线，平均提升了14.3%的系统吞吐量。
• 通过将服务编排限制在固定数量的高价值边缘节点，并采用双时间尺度机制，KaiS将调度成本降低了34.7%。
• 该框架即使在请求到达模式与系统规模变化的情况下，也能成功学习到有效的调度策略，展现出强大的泛化能力。
• 与GSP-SS等基线不同，KaiS由于具备自适应负载均衡与有界调度成本，能在高负载条件下保持高性能。
• GNN与多智能体强化学习的结合实现了可扩展的、低维的动作空间表示，提升了训练效率与系统可扩展性。
• KaiS与原生Kubernetes组件兼容，可在不进行架构重构的前提下，实现真实云-边缘基础设施中的实际部署。