[논문 리뷰] The SPEC-RG Reference Architecture for the Compute Continuum

Matthijs Jansen, Auday Al-Dulaimy외 3명|arXiv (Cornell University)|2022. 07. 09.

IoT and Edge/Fog Computing인용 수 4

한 줄 요약

이 논문은 계산 연속체를 위한 SPEC-RG 참조 아키텍처를 제안하며, 분산된 엣지, 안개, 클라우드 컴퓨팅 모델을 통합된 프레임워크로 통합한다. 이는 첫 번째 차수의 분석 모델과 함께 배포 및 벤치마킹 프레임워크를 통해 체계적인 워크로드 추론을 가능하게 하며, 딥러닝 및 산업용 IoT 워크로드에서 검증되었으며, 연속체 전반에 걸친 종단 간 성능 및 자원 관리 분석을 위한 오픈소스 도구를 제공한다.

ABSTRACT

As the next generation of diverse workloads like autonomous driving and augmented/virtual reality evolves, computation is shifting from cloud-based services to the edge, leading to the emergence of a cloud-edge compute continuum. This continuum promises a wide spectrum of deployment opportunities for workloads that can leverage the strengths of cloud (scalable infrastructure, high reliability) and edge (energy efficient, low latencies). Despite its promises, the continuum has only been studied in silos of various computing models, thus lacking strong end-to-end theoretical and engineering foundations for computing and resource management across the continuum. Consequently, developers resort to ad hoc approaches to reason about performance and resource utilization of workloads in the continuum. In this work, we conduct a first-of-its-kind systematic study of various computing models, identify salient properties, and make a case to unify them under a compute continuum reference architecture. This architecture provides an end-to-end analysis framework for developers to reason about resource management, workload distribution, and performance analysis. We demonstrate the utility of the reference architecture by analyzing two popular continuum workloads, deep learning and industrial IoT. We have developed an accompanying deployment and benchmarking framework and first-order analytical model for quantitative reasoning of continuum workloads. The framework is open-sourced and available at https://github.com/atlarge-research/continuum.

연구 동기 및 목표

• 클라우드-엣지-엔드포인트 연속체 전반에 걸친 자원 관리 및 워크로드 분배를 위한 종단 간 이론적 및 공학적 기초의 부족을 해결하기 위해.
• 고립된 컴퓨팅 모델들—예를 들어 안개, 미스트, 엣지, 모바일 클라우드 컴퓨팅—을 하나의 일관된 參照 아키텍처로 통합하기 위해.
• 개발자들이 이질적인 연속체 배포 환경에서 워크로드 오프로딩, 자원 할당, 성능에 대해 체계적으로 추론할 수 있도록 프레임워크를 제공하기 위해.
• 에뮬레이션을 통해 다양한 연속체 자원을 지원하고 정량적 벤치마킹을 가능하게 하는 구현 가능한 오픈소스 프레임워크를 개발하기 위해.
• 배포 프레임워크와 보완되는 첫 번째 차수의 분석 모델을 구축하여 빠른 설정 반복을 지원하는 성능 추론을 가능하게 하기 위해.

제안 방법

• 17개의 기존 계산 연속체 모델을 체계적으로 분석하여 중복되는 고려사항과 설계 공간 특성들을 파악하였다.
• 연속체 설계 공간의 다양한 부분을 커버하기 위해 미스트, 엣지, 멀티액세스 엣지, 안개, 모바일 클라우드 컴퓨팅의 다섯 가지 대표 모델을 선정하였다.
• 모델 간 공통점을 추상화하여 종단 간 워크로드 분포 및 자원 관리에 대한 추론이 가능한 통합된 參照 아키텍처를 설계하였다.
• 클라우드, 엣지, 엔드포인트 장치 전반에서 가상 머신, 컨테이너 및 여러 자원 관리자(예: 쿠버네티스, 쿠베에지)를 지원하는 배포 및 벤치마킹 프레임워크를 구현하였다.
• 성능 추론을 위한 첫 번째 차수의 분석 모델을 개발하였으며, 벤치마킹 프레임워크와 통합되어 빠른 설정 평가를 가능하게 하였다.
• 계산, 네트워크, 운영 서비스의 커스터마이제이션을 지원하여 연속체 배포의 완전한 스택 에뮬레이션을 가능하게 하였다.

실험 결과

연구 질문

• RQ1 안개, 엣지, 미스트, 모바일 클라우드 컴퓨팅과 같은 다양한 컴퓨팅 모델들이 계산 연속체를 위한 단일 개념적 프레임워크 아래 통합될 수 있는 방법은 무엇인가?
• RQ2 기존의 연속체 모델들 간의 핵심 공통점과 차별화되는 특성들은 무엇이며, 이를 통해 체계적인 설계 공간 탐색이 가능할까?
• RQ3 어떤 방식으로 參照 아키텍처가 클라우드-엣지-엔드포인트 연속체 전반에 걸쳐 워크로드 오프로딩, 자원 관리, 성능에 대한 종단 간 추론을 지원할 수 있는가?
• RQ4 통합된 배포 및 벤치마킹 프레임워크는 연속체 워크로드의 평가 및 최적화에 얼마나 기여하는가?
• RQ5 구성 가능한 프레임워크와 결합된 첫 번째 차수의 분석 모델은 연속체 애플리케이션 배포에 대해 효율적이고 정량적인 추론을 가능하게 할 수 있는가?

주요 결과

• SPEC-RG 參照 아키텍처는 17개의 다양한 컴퓨팅 모델을 하나의 일관된 프레임워크로 통합하여, 고립된 표현에도 불구하고 상당한 공통 고려사항이 존재함을 드러냈다.
• 제안된 배포 및 벤치마킹 프레임워크는 클라우드, 엣지, 엔드포인트 자원의 완전한 스택 에뮬레이션을 지원하며, 구성 가능한 자원 관리자와 운영 서비스를 포함하여 포괄적인 실험을 가능하게 한다.
• Fogify 및 MockFog와 같은 기존 도구보다 프레임워크가 연속체 컴퓨팅 모델 전부를 지원하고 있으며, 계산 및 네트워크 자원에 대한 세밀한 제어 기능을 제공한다.
• 첫 번째 차수의 분석 모델은 다양한 설정에서 빠른 성능 추론을 가능하게 하여 체계적인 시도-오류 기반의 배포 튜닝이 필요 없도록 한다.
• 딥러닝 및 산업용 IoT 워크로드에 대한 검증을 통해, 실제 연속체 워크로드의 성능 및 자원 활용도에 대한 측정 가능한 통찰을 분석하는 데 프레임워크의 유용성이 입증되었다.
• 오픈소스 프레임워크 및 모델은 지속적으로 개발 중이며, https://github.com/atlarge-research/continuum 에서 공개되어 있어 향후 연구 및 도구 통합을 지원한다.