[论文解读] A Cost-Effective Workload Allocation Strategy for Cloud-Native Edge Services

Valentino Armani, Francescomaria Faticanti+3 more|arXiv (Cornell University)|Oct 25, 2021

Cloud Computing and Resource Management被引用 4

一句话总结

本文提出了一种基于新型启发式算法 replicasArray 的成本有效工作负载分配策略，用于混合云环境中云原生边缘服务的负载均衡与最小化公共云成本。与侧重于负载均衡的解决方案相比，该方法在动态工作负载下保持可接受的性能，同时将成本降低超过50%，并通过仿真和真实的 Kubernetes 部署得到验证。

ABSTRACT

Nowadays IoT applications consist of a collection of loosely coupled modules, namely microservices, that can be managed and placed in a heterogeneous environment consisting of private and public resources. It follows that distributing the application logic introduces new challenges in guaranteeing performance and reducing costs. However, most existing solutions are focused on reducing pay-per-use costs without considering a microservice-based architecture. We propose a cost-effective workload allocation for microservice-based applications. We model the problem as an integer programming problem and we formulate an efficient and near-optimal heuristic solution given the NP-hardness of the original problem. Numerical results demonstrate the good performance of the proposed heuristic in terms of cost reduction and performance with respect to optimal and state-of-the-art solutions. Moreover, an evaluation conducted in a Kubernetes cluster running in an OpenStack ecosystem confirms the feasibility and the validity of the proposed solution.

研究动机与目标

• 解决在满足应用性能约束的前提下最小化混合云环境中公共云成本的挑战。
• 实现基于微服务的云原生边缘应用在异构私有云与公共云资源上的高效工作负载编排。
• 开发一种可扩展的实时解决方案，根据成本和负载均衡标准动态重定向流量。
• 在仿真和真实世界 Kubernetes/OpenStack 环境中，验证该启发式算法相对于最优解和前沿解决方案的性能表现。
• 通过动态区域激活与去激活机制，实现对工作负载变化的弹性适应。

提出的方法

• 将工作负载分配问题建模为等价于虚拟网络映射（VNE）问题的整数规划模型。
• 提出一种基于两个标准的新型启发式算法：成本降低与微服务间的负载均衡。
• 引入 'replicasArray' 概念——一种集中式的流量分流机制，根据主机剩余容量分配请求。
• 采用动态服务重构机制（DSR），根据实时性能和成本阈值激活或去激活区域。
• 通过在 OpenStack 环境中的 Kubernetes 集群内进行仿真和真实世界评估，验证该启发式算法。
• 应用运行时估计与自适应调度，以响应工作负载变化动态调整部署配置。

实验结果

研究问题

• RQ1 如何在不损害应用性能的前提下最小化混合云环境中的公共云成本？
• RQ2 在基于微服务的边缘应用中，动态流量重定向对成本和性能有何影响？
• RQ3 与最优解和前沿解决方案相比，基于 replicasArray 的启发式算法在负载均衡和成本降低方面的有效性如何？
• RQ4 所提出的启发式算法能否在实时环境中有效适应不同的工作负载模式？
• RQ5 replicasArray 的大小在系统性能和成本效率方面起到什么作用？

主要发现

• 所提出的启发式算法相比侧重于负载均衡的基线方案，将公共云成本降低了超过50%。
• 该启发式算法在所有测试的工作负载场景下，包括突发流量高峰，均将应用完成时间保持在预设阈值内。
• 在高负载条件下，该启发式算法确保了稳定的性能，请求完成时间的方差极小，表现出有效的负载均衡能力。
• DSR 算法成功检测到工作负载趋势，并动态激活/去激活区域，减少了不必要的公共资源使用。
• 评估结果表明，该解决方案在真实世界部署中具有可行性与有效性，已在 OpenStack 上的 Kubernetes 集群中得到验证。
• 尽管底层问题是 NP-难问题，该启发式算法仍实现了接近最优的成本性能表现。