[论文解读] Distributed Redundant Placement for Microservice-based Applications at the Edge

Hailiang Zhao, Shuiguang Deng+3 more|arXiv (Cornell University)|Nov 9, 2019

IoT and Edge/Fog Computing参考文献 33被引用 8

一句话总结

本文提出SAA-RP，一种用于多接入边缘计算（MEC）中基于微服务的应用程序的分布式冗余部署框架，采用基于遗传算法的服务器选择（GASS）算法，在异构边缘站点间优化部署。通过建模服务请求的不确定性并利用多个边缘实例的冗余，与非冗余基准相比，GASS显著提升了响应时间和可用性，实验基于真实世界数据验证。

ABSTRACT

Multi-access Edge Computing (MEC) is booming as a promising paradigm to push the computation and communication resources from cloud to the network edge to provide services and to perform computations. With container technologies, mobile devices with small memory footprint can run composite microservice-based applications without time-consuming backbone. Service placement at the edge is of importance to put MEC from theory into practice. However, current state-of-the-art research does not sufficiently take the composite property of services into consideration. Besides, although Kubernetes has certain abilities to heal container failures, high availability cannot be ensured due to heterogeneity and variability of edge sites. To deal with these problems, we propose a distributed redundant placement framework SAA-RP and a GA-based Server Selection (GASS) algorithm for microservice-based applications with sequential combinatorial structure. We formulate a stochastic optimization problem with the uncertainty of microservice request considered, and then decide for each microservice, how it should be deployed and with how many instances as well as on which edge sites to place them. Benchmark policies are implemented in two scenarios, where redundancy is allowed and not, respectively. Numerical results based on a real-world dataset verify that GASS significantly outperforms all the benchmark policies.

研究动机与目标

• 解决现有MEC服务部署的局限性，即通常将服务视为原子单元，忽略复合的、相关的微服务结构。
• 提升边缘环境中的高可用性，尽管Kubernetes具备自愈能力，但边缘环境的异构性与瞬态故障仍会降低可靠性。
• 在分布式边缘站点中引入微服务部署的冗余，以实现更快的响应时间与负载均衡。
• 对终端用户的服务组合方案及边缘站点差异性中的不确定性进行建模与处理。
• 设计一种实用且可扩展的解决方案，与Kubernetes编排兼容，适用于真实世界部署。

提出的方法

• 将冗余部署问题建模为考虑微服务请求模式不确定性和边缘站点异构性的随机优化模型。
• 提出基于样本平均近似法的冗余部署（SAA-RP）框架，以处理随机性并支持分布式、可扩展的决策制定。
• 提出基于遗传算法的服务器选择（GASS）算法，高效选择最优边缘站点以部署具有冗余的微服务实例。
• 通过在不同边缘站点上部署同一微服务候选的多个实例来实现冗余，以降低延迟并提高容错能力。
• 采用最近可用边缘站点选择策略以最小化响应时间，提升实用性与性能。
• 将框架集成至Kubernetes中，以实现生产环境部署，确保与现有云原生编排的兼容性。

实验结果

研究问题

• RQ1 如何通过在分布式边缘站点间实现冗余部署，提升复合微服务应用的响应时间与可用性？
• RQ2 边缘站点异构性与请求不确定性对服务部署决策有何影响？
• RQ3 所提出的GASS算法在性能与可扩展性方面相较于非冗余及基线部署策略表现如何？
• RQ4 随机优化模型能否有效处理用户请求的服务组合不确定性与动态边缘环境？
• RQ5 如何在基于Kubernetes的编排中实际集成冗余机制以支持边缘微服务？

主要发现

• 在冗余与非冗余场景下，GASS算法在降低响应时间与提升服务可用性方面显著优于所有基准策略。
• 基于真实世界数据集的数值结果表明，通过SAA-RP实现的冗余部署可增强系统鲁棒性并降低延迟，尤其在高负载或节点故障情况下表现更优。
• 该框架有效处理了用户服务组合方案的不确定性，从而实现更具弹性与适应性的部署决策。
• SAA-RP通过与Kubernetes编排兼容，展现出强大的可扩展性与实用性，支持真实世界部署。
• 在多个边缘站点间实现冗余可降低长延迟与服务中断的风险，即使单个站点出现瞬态故障亦能保持稳定。
• GASS中采用最近可用边缘站点选择策略，通过最小化网络传输距离，进一步提升了响应时间。