[논문 리뷰] The Hidden cost of the Edge: A Performance Comparison of Edge and Cloud Latencies

Ahmed Ali-Eldin, Bin Wang외 1명|arXiv (Cornell University)|2021. 04. 28.

Cloud Computing and Resource Management인용 수 4

한 줄 요약

이 논문은 엣지 컴퓨팅의 낮은 네트워크 대기 지연가 자원 제약로 인한 높은 큐잉 지연로 인해 중간에서 높은 활용도에서 클라우드보다 악화된 종단 간 대기 지연를 초래하는 '엣지 성능 역전' 문제를 규명하고 분석한다. 큐잉 이론과 Azure 워크로드를 활용한 실제 실험을 통해 저자들은 엣지 대기 지연가 클라우드 대기 지연를 초과할 수 있음을 입증하며, 특히 워크로드 분포의 비대칭성에 의해 영향을 받으며, 성능 저하를 방지하기 위해 과다 할당이 필요하다고 밝힌다.

ABSTRACT

Edge computing has emerged as a popular paradigm for running latency-sensitive applications due to its ability to offer lower network latencies to end-users. In this paper, we argue that despite its lower network latency, the resource-constrained nature of the edge can result in higher end-to-end latency, especially at higher utilizations, when compared to cloud data centers. We study this edge performance inversion problem through an analytic comparison of edge and cloud latencies and analyze conditions under which the edge can yield worse performance than the cloud. To verify our analytic results, we conduct a detailed experimental comparison of the edge and the cloud latencies using a realistic application and real cloud workloads. Both our analytical and experimental results show that even at moderate utilizations, the edge queuing delays can offset the benefits of lower network latencies, and even result in performance inversion where running in the cloud would provide superior latencies. We finally discuss practical implications of our results and provide insights into how application designers and service providers should design edge applications and systems to avoid these pitfalls.

연구 동기 및 목표

• 엣지 종단 간 대기 지연가 네트워크 대기 지연이 낮음에도 불구하고 클라우드의 대기 지연를 초과하는 엣지 성능 역전 문제를 규명하고 형식화하기.
• 큐잉 모델을 사용하여 엣지 큐잉 지연가 네트워크 대기 지연의 이점을 상쇄할 수 있는 조건을 분석하기.
• 실제 클라우드 및 엣지 플랫폼에서 Azure 추적 워크로드를 활용한 실제 실험을 통해 분석 결과를 검증하기.
• 응용 프로그램 설계자 및 클라우드 제공자에게 성능 역전을 방지하기 위한 적절한 자원 할당 및 과다 할당 전략을 제공하기.

제안 방법

• 엣지 종단 간 대기 지연와 클라우드 시스템 간의 대기 지연를 비교하기 위해 M/M/1 큐잉 모델을 사용하여 엣지 성능 역전 문제를 형식화하기.
• 네트워크 지연 및 서버 큐잉 지연 구성 요소를 포함한 엣지 및 클라우드 종단 간 대기 지연에 대한 닫힌 형태의 분석 수식 유도하기.
• Poisson 도착을 가정하고 k개의 엣지 사이트에 걸쳐 워크로드 분포를 모델링하여 균형 잡힌 및 비균형 워크로드를 고려해 최대 용량 요구 사항 평가하기.
• 엔드용량을 $ C_{edge} = \lambda + 2\sqrt{k\lambda} $로 계산하여 통계적 다중화 이득이 없기 때문에 클라우드 용량 $ C_{cloud} = \lambda + 2\sqrt{\lambda} $ 보다 높아짐을 보여주기.
• 실제 클라우드 및 엣지 플랫폼에서 물리적 환경에서 Azure 추적 워크로드와 실제 애플리케이션 스택을 활용해 평균 및 꼬리 대기 지연 측정을 위한 실제 실험 수행하기.
• 실험 결과를 분석 예측과 비교하여 현실적인 조건에서 성능 역전가 발생하는지 검증하기.

실험 결과

연구 질문

• RQ1 엣지의 높은 큐잉 지연가 네트워크 대기 지연의 이점을 상쇄하여 종단 간 대기 지연가 클라우드를 초과하는 조건는 무엇인가?
• RQ2 엣지 사이트 간 워크로드 분포의 비대칭성은 성능 역전의 발생 가능성과 심각도에 어떤 영향을 미치는가?
• RQ3 중간 수준의 활용도(예: 40–60%)에서 큐잉 효과로 인해 엣지 대기 지연가 클라우드보다 악화되는 정도는 어느 정도인가?
• RQ4 성능 역전을 방지하기 위해 엣지에서 클라우드 대비 얼마나 많은 과다 할당이 필요한가?
• RQ5 클라우드의 통계적 다중화 이득은 분산된 엣지 배포 대비 최대 용량 요구 사항을 얼마나 줄이는가?

주요 결과

• 워크로드가 엣지 사이트에 비균형적으로 분포할 경우, 엣지 종단 간 대기 지연가 중간 활용도 수준(40–60%)에서도 클라우드 대기 지연를 초과할 수 있다.
• 엔드용량이 $ C_{edge} = \lambda + 2\sqrt{k\lambda} $로 계산되며, 통계적 다중화 이득이 없기 때문에 클라우드의 $ C_{cloud} = \lambda + 2\sqrt{\lambda} $ 보다 높다.
• 기존 클라우드에 대한 대기 지연가 감소함에 따라 클라우드 배포 밀도가 증가함에 따라 성능 역전의 발생 가능성이 높아진다.
• Azure 워크로드를 활용한 실제 실험 결과, 동일한 부하 조건에서 엣지의 평균 및 꼬리 대기 지연가 클라우드보다 악화될 수 있음을 확인하였다.
• 엣지 컴퓨팅의 숨겨진 비용인 높은 큐잉 지연는 성능 저하를 방지하기 위해 엣지에서 상당한 과다 할당이 필요하다.
• 클라우드 제공자는 성능 역전을 방지하기 위해 추가 용량이 필요하기 때문에 엣지 배포에 더 높은 경제적 비용을 지불해야 한다.