[논문 리뷰] Dynamic Virtual Machine Management via Approximate Markov Decision Process

Zhenhua Han, Haisheng Tan외 4명|arXiv (Cornell University)|2016. 01. 30.

Cloud Computing and Resource Management참고 문헌 17인용 수 4

한 줄 요약

이 논문은 데이터 센터에서 에너지 효율성과 자원 활용도를 최적화하는 약간의 Markov 결정 과정(MDP) 기반 동적 가상 머신(VM) 관리 프레임워크인 MadVM을 제안한다. VM 자원 수요를 마르코프 체인으로 모델링하고 수렴 보장을 갖춘 값 반복 기법을 사용함으로써, MadVM은 전력 소비를 최대 47% 감소시키고 자원 부족을 거의 제로 수준으로 줄이며, 실세계 트레이스에서 기존 기준 방법들인 CompVM과 CloudScale보다 뛰어난 성능을 보인다.

ABSTRACT

Efficient virtual machine (VM) management can dramatically reduce energy consumption in data centers. Existing VM management algorithms fall into two categories based on whether the VMs' resource demands are assumed to be static or dynamic. The former category fails to maximize the resource utilization as they cannot adapt to the dynamic nature of VMs' resource demands. Most approaches in the latter category are heuristical and lack theoretical performance guarantees. In this work, we formulate dynamic VM management as a large-scale Markov Decision Process (MDP) problem and derive an optimal solution. Our analysis of real-world data traces supports our choice of the modeling approach. However, solving the large-scale MDP problem suffers from the curse of dimensionality. Therefore, we further exploit the special structure of the problem and propose an approximate MDP-based dynamic VM management method, called MadVM. We prove the convergence of MadVM and analyze the bound of its approximation error. Moreover, MadVM can be implemented in a distributed system, which should suit the needs of real data centers. Extensive simulations based on two real-world workload traces show that MadVM achieves significant performance gains over two existing baseline approaches in power consumption, resource shortage and the number of VM migrations. Specifically, the more intensely the resource demands fluctuate, the more MadVM outperforms.

연구 동기 및 목표

• 정적 VM 관리의 한계를 해결하기 위해, 동적인 자원 수요에 적응하지 못하고 자원을 효율적으로 활용하지 못하는 문제를 해결한다.
• 기존 히우리스틱 기반 동적 VM 관리 접근법에서 이론적 보장을 부족하게 하는 문제를 해결한다.
• 장기적인 비용(에너지 소비 + 자원 부족)을 최소화하는 대규모 무한할행 MDP 문제로 동적 VM 관리를 공식화한다.
• 최적의 MDP 해를 근사하는 확장 가능하고 분산형이며 이론적으로 수렴 보장이 있는 알고리즘을 설계한다.
• 실세계 워크로드 트레이스를 기반으로 한 방법을 평가하여 전력 효율성, 자원 활용도 및 마이그레이션 오버헤드 측면에서 뚜렷한 성능 향상을 입증한다.

제안 방법

• 에너지 소비와 자원 부족을 조합한 비용 함수를 갖는 무한할행 MDP로 동적 VM 관리를 공식화한다.
• 실세계 트레이스 분석을 통해 준정적이고 비균일한 전이 확률을 보이는 일계 마르코프 체인을 사용해 VM 자원 수요 전이를 모델링한다.
• 수렴 보장을 갖춘 수축 사상(contractive mapping)을 기반으로 한 값 반복 기반의 약간의 MDP 알고리즘인 MadVM을 제안한다.
• 최소한의 전역 상태를 요구하는 분산 구현을 도입하여 확장성과 장애 내성 향상을 도모한다.
• MadVM의 수렴성을 증명하고 최적의 MDP 해에 대한 근사 오차의 상한을 유도한다.
• 계산 복잡도를 줄이기 위해 저차원 부분공간에 대한 투영 단계를 포함한 수정된 값 반복 기법을 사용한다.

실험 결과

연구 질문

• RQ1 실세계 데이터 센터 워크로드에서 시간적 상관관계를 효과적으로 포착하기 위해 VM 자원 수요의 동적 특성을 마르코프 체인으로 모델링하는 것이 가능한가?
• RQ2 대규모 MDP에서 발생하는 차원의 극복 문제를 이론적 성능 보장을 유지하면서 어떻게 완화할 수 있는가?
• RQ3 약간의 MDP 기반 접근법이 기존 히우리스틱 기반 VM 관리 알고리즘보다 에너지 효율성과 자원 가용성 측면에서 뛰어나게 성능을 냅니다?
• RQ4 제안된 알고리즘의 최적의 MDP 해에 대한 근사 오차의 상한은 얼마인가?
• RQ5 수렴성이나 성능을 희생시키지 않고 분산 방식으로 효율적으로 구현할 수 있는가?

주요 결과

• 실세계 워크로드 트레이스에서 MadVM은 CompVM 대비 평균 전력 소비를 19% 감소시키고, CloudScale 대비 42% 감소시켰다.
• 고도로 변동성이 큰 워크로드에서 MadVM은 CloudScale 대비 최대 47% 낮은 전력 소비를 기록하여 뛰어난 적응성을 입증했다.
• 모든 평가 대상 워크로드에서 MadVM은 거의 제로 수준의 자원 부족을 유지하며, 서비스 수준 합의(SLA) 이행 측면에서 기존 기준보다 뚜렷이 뛰어난 성능을 보였다.
• 수축 사상과 수열 분석을 통한 증명을 통해 알고리즘이 유한한 근사 오차 범위 내에서 수렴함을 입증했다.
• MadVM의 분산 설계는 대규모 데이터 센터 배포에 적합한 강건성과 확장성을 제공한다.
• 실험 결과는 준정적 전이 확률을 갖는 마르코프 체인으로 VM 수요를 모델링하는 것이 동적 VM 관리에 효과적임을 확인했다.