[论文解读] The Hidden cost of the Edge: A Performance Comparison of Edge and Cloud Latencies

Ahmed Ali-Eldin, Bin Wang+1 more|arXiv (Cornell University)|Apr 28, 2021

Cloud Computing and Resource Management被引用 4

一句话总结

本文识别并分析了‘边缘性能倒置’问题，即边缘计算虽然网络延迟更低，但因资源受限导致排队延迟更高，从而在中高负载下端到端延迟反而超过云，导致性能劣化。通过排队论分析和基于 Azure 工作负载的真实实验，作者发现即使在 40–60% 的负载下，边缘延迟仍可能超过云延迟，尤其在工作负载分布不均时，必须过度配置资源以避免性能下降。

ABSTRACT

Edge computing has emerged as a popular paradigm for running latency-sensitive applications due to its ability to offer lower network latencies to end-users. In this paper, we argue that despite its lower network latency, the resource-constrained nature of the edge can result in higher end-to-end latency, especially at higher utilizations, when compared to cloud data centers. We study this edge performance inversion problem through an analytic comparison of edge and cloud latencies and analyze conditions under which the edge can yield worse performance than the cloud. To verify our analytic results, we conduct a detailed experimental comparison of the edge and the cloud latencies using a realistic application and real cloud workloads. Both our analytical and experimental results show that even at moderate utilizations, the edge queuing delays can offset the benefits of lower network latencies, and even result in performance inversion where running in the cloud would provide superior latencies. We finally discuss practical implications of our results and provide insights into how application designers and service providers should design edge applications and systems to avoid these pitfalls.

研究动机与目标

• 识别并形式化边缘性能倒置问题，即尽管网络延迟更低，边缘系统的端到端延迟仍超过云。
• 利用排队模型分析边缘排队延迟超过网络延迟优势的条件。
• 通过实际云和边缘平台上的 Azure 跟踪工作负载进行真实世界实验，验证分析结果。
• 为应用设计者和云提供商提供实用指导，通过合理的资源分配和过度配置避免性能倒置。

提出的方法

• 使用 M/M/1 排队模型形式化边缘性能倒置问题，比较边缘与云系统之间的端到端延迟。
• 推导出包含网络延迟和服务器排队延迟分量的边缘与云端到端延迟的闭式解析表达式。
• 对 k 个边缘节点上的工作负载分布进行建模，假设泊松到达，考虑负载均衡与不均衡情况，以评估峰值容量需求。
• 计算所需边缘容量为 $ C_{edge} = \lambda + 2\sqrt{k\lambda} $，表明其因缺乏统计复用增益而超过云容量 $ C_{cloud} = \lambda + 2\sqrt{\lambda} $。
• 使用 Azure 跟踪工作负载和真实应用栈，在物理云和边缘平台上进行真实世界实验，测量平均延迟和尾部延迟。
• 将实验结果与分析预测进行对比，验证在真实条件下性能倒置的发生。

实验结果

研究问题

• RQ1 在何种条件下，边缘更高的排队延迟会导致端到端延迟超过云，尽管网络延迟更低？
• RQ2 边缘节点间的工作负载偏斜如何影响性能倒置的发生概率与严重程度？
• RQ3 中等负载水平（如 40–60%）下，排队效应在多大程度上导致边缘延迟劣于云？
• RQ4 与云相比，边缘为防止性能倒置需要多大程度的过度配置？
• RQ5 云中的统计复用增益在多大程度上降低了峰值容量需求，相较于分布式边缘部署？

主要发现

• 即使在 40–60% 的中等负载水平下，边缘端到端延迟仍可能超过云延迟，尤其在工作负载在边缘节点间分布不均时。
• 边缘所需的峰值容量 $ C_{edge} = \lambda + 2\sqrt{k\lambda} $ 高于云的 $ C_{cloud} = \lambda + 2\sqrt{\lambda} $，原因在于缺乏统计复用增益。
• 随着传统云的延迟降低（由于云部署密度提高），性能倒置更可能发生。
• 使用 Azure 工作负载的真实世界实验确认，在相同负载条件下，边缘的平均延迟和尾部延迟均可能劣于云。
• 边缘计算的隐性成本——更高的排队延迟——需要在边缘进行大量过度配置以避免性能下降。
• 由于需要额外容量来防止性能倒置，云提供商在边缘部署中面临更高的经济成本。