[논문 리뷰] A Cost-Effective Workload Allocation Strategy for Cloud-Native Edge Services

Valentino Armani, Francescomaria Faticanti외 3명|arXiv (Cornell University)|2021. 10. 25.

Cloud Computing and Resource Management인용 수 4

한 줄 요약

이 논문은 복합 클라우드 환경에서 클라우드 네이티브 엣지 서비스를 위한 비용 효율적인 워크로드 할당 전략을 제안하며, 복제어레이(replicasArray) 기반의 새로운 휴리스틱을 사용하여 부하를 균형 잡고 공용 클라우드 비용을 최소화한다. 시뮬레이션과 실제 쿠버네티스 배포를 통해 검증된 결과, 이 접근 방식은 부하 균형 중심 솔루션 대비 비용을 50% 이상 절감하면서도 동적 워크로드 하에서 만족스러운 성능을 유지를 한다.

ABSTRACT

Nowadays IoT applications consist of a collection of loosely coupled modules, namely microservices, that can be managed and placed in a heterogeneous environment consisting of private and public resources. It follows that distributing the application logic introduces new challenges in guaranteeing performance and reducing costs. However, most existing solutions are focused on reducing pay-per-use costs without considering a microservice-based architecture. We propose a cost-effective workload allocation for microservice-based applications. We model the problem as an integer programming problem and we formulate an efficient and near-optimal heuristic solution given the NP-hardness of the original problem. Numerical results demonstrate the good performance of the proposed heuristic in terms of cost reduction and performance with respect to optimal and state-of-the-art solutions. Moreover, an evaluation conducted in a Kubernetes cluster running in an OpenStack ecosystem confirms the feasibility and the validity of the proposed solution.

연구 동기 및 목표

• 하이브리드 클라우드 환경에서 공용 클라우드 비용을 최소화하면서도 애플리케이션 성능 제약 조건을 충족시키는 데 도전 과제를 해결하기 위해.
• 이질적인 프라이빗 및 공용 클라우드 리소스 간에 마이크로서비스 기반 클라우드 네이티브 엣지 애플리케이션의 효율적인 워크로드 오케스트레이션을 가능하게 하기 위해.
• 비용과 부하 균형 기준에 따라 실시간으로 트래픽을 재定向할 수 있는 확장성 있고 실시간 동작이 가능한 솔루션을 개발하기 위해.
• 모델링된 환경과 실제 쿠버네티스/OpenStack 환경에서 최적 및 최신 기술 솔루션과의 성능 비교를 통해 휴리스틱의 성능을 검증하기 위해.
• 동적 리소스 활성화 및 비활성화를 통해 워크로드 변동에 탄력적으로 대응할 수 있도록 하기 위해.

제안 방법

• 워크로드 할당 문제를 가상 네트워크 임베딩(VNE) 문제에 해당하는 정수계획모델로 수식화한다.
• 비용 절감과 마이크로서비스 간 부하 균형을 두 가지 기준으로 삼는 새로운 휴리스틱 알고리즘을 제안한다.
• 잔여 호스트 용량 기반으로 요청을 분배하는 중앙집중식 트래픽 분배 메커니즘인 '복제어레이(replicasArray)' 개념을 도입한다.
• 실시간 성능 및 비용 임계값을 기반으로 지역을 활성화하거나 비활성화하는 동적 서비스 재구성 기법(DSR)을 활용한다.
• OpenStack 환경 내 쿠버네티스 클러스터에서 시뮬레이션 및 실제 환경 평가를 통해 휴리스틱을 검증한다.
• 워크로드 변화에 대응하기 위해 런타임 추정 및 적응형 스케줄링을 적용하여 배포 구성 설정을 조정한다.

실험 결과

연구 질문

• RQ1 하이브리드 클라우드 환경에서 애플리케이션 성능을 훼손하지 않고 공용 클라우드 비용을 최소화할 수 있는 방법은 무엇인가?
• RQ2 마이크로서비스 기반 엣지 애플리케이션에서 동적 트래픽 재定向이 비용과 성능에 미치는 영향는 어떠한가?
• RQ3 최적 및 최신 기술 솔루션과 비교했을 때, 복제어레이(replicasArray) 기반 휴리스틱은 부하 균형과 비용 절감에 얼마나 효과적인가?
• RQ4 제안된 휴리스틱은 실시간으로 변화하는 워크로드 패턴에 효과적으로 대응할 수 있는가?
• RQ5 복제어레이(replicasArray)의 크기가 시스템 성능 및 비용 효율성에 미치는 역할은 무엇인가?

주요 결과

• 제안된 휴리스틱은 부하 균형 중심 기반 솔루션 대비 공용 클라우드 비용을 50퍼센트 이상 절감한다.
• 모든 테스트 워크로드 시나리오, 특히 갑작스러운 트래픽 폭증 상황에서도 애플리케이션 완료 시간이 사전 정의된 한계 내에 유지된다.
• 고부하 조건에서도 요청 완료 시간의 변동성이 최소화되어 안정적인 성능이 확보되며, 효과적인 부하 균형이 이루어짐을 입증한다.
• DSR 알고리즘이 워크로드 추세를 성공적으로 탐지하고 지역을 동적으로 활성화/비활성화하여 불필요한 공용 리소스 사용을 줄였다.
• OpenStack 환경 내 쿠버네티스 클러스터에서의 평가를 통해 실제 배포 환경에서도 솔루션이 타당하고 효과적임을 확인하였다.
• 기본 문제의 NP-완전성에도 불구하고, 휴리스틱은 거의 최적의 비용 성능를 달성한다.