[논문 리뷰] A proactive autoscaling and energy-efficient VM allocation framework using online multi-resource neural network for cloud data center

Deepika Saxena, Ashutosh Kumar Singh|arXiv (Cornell University)|2022. 12. 04.

Cloud Computing and Resource Management인용 수 7

한 줄 요약

이 논문은 클라우드 데이터센터에서 온라인 다중 자원 신경망(OM-FNN)을 사용한 수동적이고 에너지 효율적인 가상 머신(Virtual Machine, VM) 자동 스케일링 및 할당 프레임워크를 제안한다. 다중 자원 수요를 예측하고 워크로드를 군집화하며, 다중 목표 최적화를 통해 에너지 효율적인 물리적 머신에 VM을 할당하여, 기준 방법 대비 최대 88.5%의 전력 절감과 21.12% 높은 자원 활용도를 달성한다.

ABSTRACT

This work proposes an energy-efficient resource provisioning and allocation framework to meet the dynamic demands of future applications. The frequent variations in a cloud user's resource demand lead 'to the problem of excess power consumption, resource wastage, performance, and Quality-of-Service degradation. The proposed framework addresses these challenges by matching the application's predicted resource requirement with the resource capacity of VMs precisely and thereby consolidating the entire load on the minimum number of energy-efficient physical machines. The three consecutive contributions of the proposed work are: Online Multi-Resource Feed-forward Neural Network to forecast the multiple resource demands concurrently for future applications; autoscaling of VMs based on the clustering of the predicted resource requirements; allocation of the scaled VMs on the energy-efficient PMs. The integrated approach successively optimizes resource utilization, saves energy and automatically adapts to the changes in future application resource demand. The proposed framework is evaluated by using real workload traces of the benchmark Google Cluster Dataset and compared against different scenarios including energy-efficient VM placement with resource prediction only, VMP without resource prediction and autoscaling, and optimal VMP with autoscaling based on actual resource utilization. The observed results demonstrate that the proposed integrated approach achieves near-optimal performance against optimal VMP and outperforms rest of the VMPs in terms of power saving and resource utilization up to 88.5% and 21.12% respectively. In addition, the OM-FNN predictor shows better accuracy, lesser time and space complexity over a traditional single-input and single-output feed-forward neural network predictor.

연구 동기 및 목표

• 클라우드 데이터센터에서 발생하는 동적 워크로드 변동으로 인한 자원 낭비, 성능 저하 및 높은 전력 소비 문제를 해결하기 위해.
• 실시간으로 다중 자원 수요(CPU, 메모리, I/O)를 예측하여 효율적인 VM 자동 스케일링을 가능하게 하는 수동적 시스템을 개발하기 위해.
• 서비스 품질(QoS)을 유지하면서도 활성화된 물리적 머신(PM) 수와 전력 소비를 최소화할 수 있도록 VM 할당을 최적화하기 위해.
• 예측, 자동 스케일링, 할당을 통합하여 근사 최적의 성능을 달성하는 유일한 프레임워크를 구축하기 위해.
• 실제 워크로드 트레이스를 기반으로 기존 방법들을 능가하는 전력 효율성과 자원 활용도를 확보하기 위해.

제안 방법

• 기존의 SISO-FNN보다 시간 및 공간 복잡도가 낮은 온라인 다중 자원 피드포워드 신경망(OM-FNN)을 설계하여, CPU, 메모리, I/O 등 여러 자원 수요를 동시에 예측한다.
• 예측된 자원 요구량을 기반으로 워크로드를 군집화하여 유사한 응용 프로그램을 그룹화하고, 효율적인 VM 프로비저닝을 가능하게 한다.
• 군집별 자원 예측에 기반한 수동적 VM 자동 스케일링을 수행하여 과다 프로비저닝을 방지하면서도 충분한 용량을 확보한다.
• 활동 중인 PM 수와 전력 소비를 최소화하면서 부하를 균형 있게 분배하기 위해 다중 목표 VM 할당 알고리즘(MLB)을 제안하며, 파레토 최적 해를 도출하기 위해 차별 진화를 활용한다.
• 예측, 자동 스케일링, 할당을 닫힌 루프 시스템으로 통합하여 지속적으로 에너지 효율성과 자원 효율성을 최적화한다.
• 실제 Google 클러스터 데이터셋 트레이스를 사용하여 다수의 기준 방법(최적 적합, 무작위 적합, 실제 활용도 기반 최적 할당 등)과 비교 평가한다.

Figure 1: Bird eye view of proposed work

실험 결과

연구 질문

• RQ1 단일 온라인 다중 자원 신경망이 클라우드 VM의 다중 자원 수요 예측에서 다수의 단일 출력 네트워크보다 우수한 성능을 보일 수 있는가?
• RQ2 예측된 워크로드 기반의 수동적 자동 스케일링이 자원 활용도 향상과 전력 소비 감소에 얼마나 기여하는가?
• RQ3 제안된 다중 목표 VM 할당 알고리즘이 히وري스틱 기반 접근법에 비해 활성 PM 수와 전력 소비를 얼마나 효과적으로 최소화하는가?
• RQ4 정확한 최적 알고리즘(OA-VMP)과 비교했을 때 통합 프레임워크가 에너지 효율성과 자원 활용도 면에서 근사 최적 성능을 달성하는가?
• RQ5 데이터센터 크기와 워크로드 복잡도가 증가함에 따라 프레임워크의 성능은 어떻게 변화하는가?

주요 결과

• 제안된 PA-VMP 프레임워크는 WPWA-VMP 기준 대비 최대 88.5%의 전력 절감과 21.12% 높은 자원 활용도를 달성한다.
• OM-FNN 예측기에서는 기존의 SISO-FNN보다 더 높은 정확도와 낮은 시간 및 공간 복잡도를 확보하여 더 빠르고 효율적인 다중 자원 예측이 가능하다.
• Best-Fit(BF-VMP) 대비 활성 PM 수가 84.3% 감소했고, Random-Fit(RF-VMP) 대비 85.1% 감소하여 전력 소비가 크게 낮아졌다.
• 전력 소비는 Best-Fit(BF-VMP) 대비 70.7–89.8% 감소했고, Random-Fit(RF-VMP) 대비 70.2–91.1% 감소했으며, 특히 소규모 데이터센터(200개 VM)에서 가장 높은 절감 효과를 보였다.
• 프레임워크는 정확한 최적 알고리즘(OA-VMP)의 결과에 매우 가까운 근사 최적 성능을 달성했으며, 전력 절감과 자원 활용도 면에서 뛰어난 성능을 보였다.
• 예측, 자동 스케일링, 최적 할당의 통합으로 VM 이주 수가 줄어들고 부하 통합이 향상되어 전체 시스템 효율성이 향상되었다.

Figure 2: Workflow of proposed predictive and autoscaling framework