[논문 리뷰] A Framework for Allocating Server Time to Spot and On-demand Services in Cloud Computing

Xiaohu Wu, Francesco De Pellegrini외 2명|arXiv (Cornell University)|2019. 02. 04.

Cloud Computing and Resource Management참고 문헌 38인용 수 4

한 줄 요약

이 논문은 클라우드 컴퓨팅 환경에서 온디맨드 및 스폰지 서비스 간에 서버 시간을 동적으로 할당하는 새로운 프레임워크를 제안한다. 이 프레임워크는 온디맨드 사용자가 즉시 서비스를 받고, 스폰지 사용자가 입찰 후 안정적이고 장기적인 활용도를 확보할 수 있도록 보장한다. 시간을 고정된 길이의 슬롯으로 나누고, 우선순위 기반 할당 및 최적의 스폰지 가격 설정을 통해, 이 프레임워크는 온디맨드 전용 모델 대비 최대 461.5%까지 클라우드 제공자의 수익을 증가시킨다.

ABSTRACT

Cloud computing delivers value to users by facilitating their access to computing capacity in periods when their need arises. An approach is to provide both on-demand and spot services on shared servers. The former allows users to access servers on demand at a fixed price and users occupy different periods of servers. The latter allows users to bid for the remaining unoccupied periods via dynamic pricing; however, without appropriate design, such periods may be arbitrarily small since on-demand users arrive randomly. This is also the current service model adopted by Amazon Elastic Cloud Compute. In this paper, we provide the first integral framework for sharing the time of servers between on-demand and spot services while optimally pricing spot instances. It guarantees that on-demand users can get served quickly while spot users can stably utilize servers for a properly long period once accepted, which is a key feature to make both on-demand and spot services accessible. Simulation results show that, by complementing the on-demand market with a spot market, a cloud provider can improve revenue by up to 464.7%. The framework is designed under assumptions which are met in real environments. It is a new tool that cloud operators can use to quantify the advantage of a hybrid spot and on-demand service, eventually making the case for operating such service model in their own infrastructures.

연구 동기 및 목표

• 클라우드 환경에서 온디맨드 사용자와 스폰지 사용자 간에 공정하고 효율적인 서버 시간 공유를 위한 통합 프레임워크를 설계하는 것.
• 온디맨드 사용자가 도착 즉시 빠르게 서비스를 받고, 스폰지 사용자가 성공적인 입찰 후 안정적이고 중단 없는 활용도를 확보할 수 있도록 보장하는 것.
• 클라우드 제공자의 수익을 극대화하면서도 온디맨드 서비스 품질을 해치지 않는 스폰지 인스턴스에 대한 최적의 가격 전략을 개발하는 것.
• 랜덤한 온디맨드 도착과 변동하는 스폰지 입찰을 포함한 현실적인 조건 하에서 프레임워크를 검증하는 것.
• 실제 클라우드 인fra에서 하이브리드 온디맨드/스폰지 모델 통합이 서버 활용도와 수익에 미치는 영향을 정량화하는 것.

제안 방법

• 시간은 고정된 길이의 슬롯(k분)으로 나뉘며, 간섭을 최소화하기 위해 각 슬롯 시작 시 서버 할당을 갱신한다.
• 온디맨드 사용자는 우선순위를 부여받고 단일 슬롯 내에서 서비스를 받으며, 기다림 시간을 최소화한다.
• 스폰지 사용자는 사용되지 않는 서버 시간을 입찰하며, 수락된 입찰는 다중 슬롯에 걸쳐 지속적인 사용을 위해 서버에 할당되어 최소 k−k′분 이상의 효과적인 활용 시간을 확보한다.
• 병렬 처리 기반의 서비스 모델이 스폰지 및 온디맨드 요청을 조율하며, 서버 할당에 PTC(Priority-based Time-Chunking) 정책을 사용한다.
• 스폰지 가격은 수요에 따라 동적으로 설정되며, 프레임워크는 최소 수락 입찰 가격이 완료 시간이나 대기 비용과 무관하게 지불 금액이 되도록 보장한다.
• 프레임워크는 현실적인 조건을 가정한다: 랜덤한 온디맨드 도착, 알려진 온디맨드 가격, 그리고 시작 후 언제든지 취소 가능한 스폰지 입찰.

실험 결과

연구 질문

• RQ1 온디맨드 및 스폰지 사용자 간에 서버 시간을 어떻게 할당할 수 있을까? 이는 온디맨드 응답 시간을 낮추고, 스폰지 활용도를 안정적으로 유지하는 데 기여해야 한다.
• RQ2 스폰지 인스턴스에 대한 어떤 가격 전략이 온디맨드 사용자 서비스 품질을 유지하면서도 클라우드 제공자의 수익을 극대화하는가?
• RQ3 하이브리드 온디맨드/스폰지 모델은 온디맨드 전용 모델 대비 서버 활용도와 수익에 얼마나 기여하는가?
• RQ4 스폰지 입찰 도착률과 시스템 부하가 다양할 경우, 프레임워크의 성능은 어떻게 변할까?
• RQ5 슬롯 길이와 가상 머신 로딩 시간은 효과적인 스폰지 활용도와 시스템 안정성에 어떤 영향을 미치는가?

주요 결과

• 온디맨드 시장에 스폰지 시장을 추가함으로써, 프레임워크는 클라우드 제공자의 수익을 최대 461.5%까지 증가시킨다.
• 슬롯당 30개의 스폰지 입찰가 존재할 경우, Dierks와 Seuken(2019)의 모델 대비 평균 단위 수익이 2.816배 향상된다.
• 슬롯당 60개의 입찰일 경우 수익 향상 비율은 2.181배이며, 120개일 경우 1.736배로, 높은 스폰지 수요에서 수익 증가율이 점점 감소하는 경향을 보인다.
• 프레임워크는 스폰지 사용자가 할당 시 최소 k−k′분 이상의 효과적인 활용 시간을 확보할 수 있도록 보장한다. 여기서 k′는 VM 로딩 시간(예: 약 3분)을 의미하며, 의미 있는 작업 실행을 가능하게 한다.
• PTC 정책은 안정적인 할당을 가능하게 하며, 동일한 시간 슬롯 내에서 온디맨드 사용자가 스폰지 작업을 사전에 중단하지 않도록 방지하여 신뢰성을 향상시킨다.
• 스폰지 수요가 중간에서 높을 경우, 특히 탄력적인 입찰과 최적의 가격 전략 덕분에, 이전의 모델들(예: Dierks와 Seuken, 2019)보다 수익 효율성이 뛰어나다.