[논문 리뷰] Characterizing Task Completion Latencies in Fog Computing

Maria Gorlatova, Hazer İnaltekin외 1명|arXiv (Cornell University)|2018. 11. 06.

IoT and Edge/Fog Computing참고 문헌 25인용 수 17

한 줄 요약

이 논문은 작업의 시간 지속성과 품질 선호도를 모델링하여 페그 컴퓨팅에서 지연과 품질 서비스를 공동 최적화하는 작업 할당 프레임워크를 제안한다. 게이트웨이, 현지 서버, 클라우드/에지 서비스를 포함한 6개의 이질적 실행 지점에서 실시한 실증적 벤치마킹을 통해 핵심 지연 특성과 안정성 패턴을 규명하고, 유틸리티 인식 알고리즘(UA, AT, C-TAP)을 사용하여 작업 할당 문제를 수립하고 해결함으로써 실제 지연과 연결 조건에서 최소 지연 또는 최대 품질 기반 기준보다 뛰어난 성능을 입증한다.

ABSTRACT

Fog computing, which distributes computing resources to multiple locations between the Internet of Things (IoT) devices and the cloud, is attracting considerable attention from academia and industry. Yet, despite the excitement about the potential of fog computing, few comprehensive quantitative characteristics of the properties of fog computing architectures have been conducted. In this paper we examine the properties of task completion latencies in fog computing. First, we present the results of our empirical benchmarking-based study of task completion latencies. The study covered a range of settings, and uniquely considered both traditional and serverless fog computing execution points. It demonstrated the range of execution point characteristics in different locations and the relative stability of latency characteristics for a given location. It also highlighted properties of serverless execution that are not incorporated in existing fog computing algorithms. Second, we present a framework we developed for co-optimizing task completion quality and latency, which was inspired by the insights of our empirical study. We describe fog computing task assignment problems we formulated under this framework, and present the algorithms we developed for solving them.

연구 동기 및 목표

• 페그 컴퓨팅 아키텍처에서 작업 완료 지연에 대한 종합적인 정량적 특성화의 부족을 해결하기 위해.
• 실제 조건에서 다양한 실행 지점—게이트웨이, 현지 서버, 클라우드/에지 서비스—의 변동성, 안정성, 성능 특성 이해를 위해.
• 작업에 특화된 시간 지속성과 품질 선호도를 기반으로 지연과 품질 서비스를 공동 최적화하는 작업 할당 프레임워크를 개발하기 위해.
• 연결성, 용량, 유틸리티 함수를 기반으로 동적으로 작업을 실행 지점에 할당하는 알고리즘 설계 및 평가를 위해.
• 비행 중 배치와 같은 실제 동적 네트워크 조건, 예를 들어 변동하는 클라우드 연결성에서의 프레임워크 검증을 위해.

제안 방법

• Raspberry Pi 게이트웨이, 현지 서버, 그리고 다양한 지역의 AWS EC2/Lambda 노드를 포함한 6개의 이질적 페그 실행 지점에서 총 1,000시간 이상의 실증적 벤치마킹을 수행하였다.
• 제어된 워크로드 하에서 작업 완료 지연을 측정하여 실행 지점 간의 변동성, 안정성, 성능 차이를 특성화하였으며, 서버리스 및 전통적인 클라우드 모델을 포함하였다.
• 각 작업이 시간 유틸리티 함수와 품질 유틸리티 함수를 가지는 유틸리티 기반 작업 할당 프레임워크를 제안하여 지연과 품질의 공동 최적화를 가능하게 하였다.
• 실행 지점 용량, 지연 분포, 유틸리티 함수를 고려한 혼합정수계획문제로 작업 할당 문제를 수립하였다.
• 세 가지 알고리즘—UA(유틸리티 인식), AT(적응형 임계값), C-TAP(공동 최적화 작업 할당 정책)—을 개발하여 다양한 제약 조건 하에서 할당 문제를 해결하였다.
• 다양한 네트워크 위치에서의 실제 지연 측정치를 사용하여 동적 연결 조건(예: 비행 중 시나리오)에서 알고리즘을 평가하였다.

실험 결과

연구 질문

• RQ1 게이트웨이, 현지 서버, 클라우드/에지 서비스를 포함한 다양한 페그 실행 지점에서 작업 완료 지연은 어떻게 달라지나?
• RQ2 반복 워크로드 하에서 특정 실행 지점의 작업 완료 지연은 안정성과 변동성 측면에서 어떻게 특성화되는가?
• RQ3 서버리스 실행 모델은 전통적인 가상화 또는 물리적 실행 지점과 비교해 지연 행동에서 어떻게 다를까?
• RQ4 공동 최적화 프레임워크는 이질적인 페그 환경에서 작업 완료 지연과 품질 서비스를 효과적으로 균형 잡을 수 있는가?
• RQ5 변동하는 클라우드 연결성과 같은 동적 네트워크 조건은 최적의 작업 할당 전략에 어떤 영향을 미치는가?

주요 결과

• 게이트웨이 실행 지점은 반복 실행 동안 안정적이고 저지연 성능(중위수 0.6초)을 보였으며, 변동성이 낮았다. 반면 클라우드 기반 서비스는 더 높고 변동성이 큰 지연을 보였다.
• 서버리스 실행(AWS Lambda)은 전통적인 가상 머신보다 훨씬 높은 지연 변동성을 보였으며, 이는 기존의 페그 알고리즘에서 포착되지 않은 특성이다.
• UA 알고리즘은 동일 조건에서 최소 지연 접근법(0.4677)과 최대 품질 접근법(0.4415)을 능가하는 평균 유틸리티 0.5078을 달성하였다.
• 혼합 연결 조건 상황에서 UA 알고리즘은 나쁜 클라우드 연결성 동안 56개의 작업을 현지 노드에 할당하고, 평균 연결성 동안 22개, 최적 연결성 동안 모든 100개의 작업을 클라우드에 할당하여 실시간 네트워크 조건에 적응하였다.
• C-TAP 알고리즘은 세 개의 가장 시간 민감도가 높은 작업을 빠르지만 품질이 낮은 현지 노드에, 두 개의 가장 유연한 작업을 고품질이지만 느린 원격 노드에 할당하여 효과적인 트레이드오프 해결을 보였다.
• 프레임워크는 용량 제약이 있는 실행 지점도 성공적으로 처리하였으며, 변동성이 큰 네트워크 성능을 보이는 비행 중 배치와 같은 동적 환경에서도 뛰어난 강건성을 보였다.