[논문 리뷰] Improving virtual host efficiency through resource and interference aware scheduling

Evangelos Angelou, Konstantinos Kaffes외 3명|arXiv (Cornell University)|2016. 01. 27.

Cloud Computing and Resource Management참고 문헌 8인용 수 5

한 줄 요약

이 논문은 과다할당 상황에서 실시간 자원 사용률과 예측된 간섭을 기반으로 워크로드를 통합함으로써 가상 호스트의 효율성을 햖스르는 두 가지 호스트 수준 스케줄링 기법—자원 인지 스케줄링(RAS)과 간섭 인지 스케줄링(IAS)—을 제안한다. 두 방법 모두 기준 성능의 10% 이내를 유지하면서 최대 50%까지 CPU 시간을 줄이며, 다양한 클라우드 환경에서 라운드로빈 및 기타 스케줄러보다 뛰어난 성능을 발휘한다.

ABSTRACT

Modern Infrastructure-as-a-Service Clouds operate in a competitive environment that caters to any user's requirements for computing resources. The sharing of the various types of resources by diverse applications poses a series of challenges in order to optimize resource utilization while avoiding performance degradation caused by application interference. In this paper, we present two scheduling methodologies enforcing consolidation techniques on multicore physical machines. Our resource-aware and interference-aware scheduling schemes aim at improving physical host efficiency while preserving the application performance by taking into account host oversubscription and the resulting workload interference. We validate our fully operational framework through a set of real-life workloads representing a wide class of modern cloud applications. The experimental results prove the efficiency of our system in optimizing resource utilization and thus energy consumption even in the presence of oversubscription. Both methodologies achieve significant reductions of the CPU time consumed, reaching up to 50%, while at the same time maintaining workload performance compared to widely used scheduling schemes under a variety of representative cloud platform scenarios.

연구 동기 및 목표

• 가상 머신 간섭으로 인한 IaaS 클라우드에서의 성능 저하 문제를 해결하기 위해.
• 지능적인 VM 배치를 통해 물리적 호스트의 효율성을 향상시키고 에너지 소비를 줄이기 위해.
• 지연 시간에 민감한 워크로드의 QoS를 훼손하지 않으면서도 고비율의 과다할당 상황에서도 효과적인 통합을 가능하게 하기 위해.
• 사전 응용 프로파일링이 필요 없이 동적 워크로드에 적응할 수 있는 경량이고 온라인 스케줄링 메커니즘을 개발하기 위해.
• 과다할당이 성능에 미치는 영향을 평가하고, 간섭 인지 스케줄링이 극한의 자원 압박 조건에서도 높은 효율을 유지할 수 있음을 입증하기 위해.

제안 방법

• RAS는 실시간 CPU, 메모리 및 I/O 사용률 지표를 기반으로 VM을 동적으로 그룹화하여 최적의 통합을 달성한다.
• IAS는 워크로드 쌍에 대한 최소한의 동시 실행 프로파일링을 사용하여 간섭을 예측하고, 공통 실행에 적합한 낮은 간섭성 VM 조합을 선택한다.
• 두 방법 모두 다중코어 시스템에서 시간 및 공간 공유 간섭을 줄이기 위해 동적 CPU 핀닝을 적용한다.
• 스케줄링 결정에 마이크로아키텍처적 고려사항, 특히 메모리 대역폭 경쟁을 통합한다.
• 스케줄링 결정은 온라인으로 이루어져, 사전에 응용 프로그램 행동에 대한 지식 없이도 변화하는 워크로드에 적응할 수 있다.
• 시스템은 표준, 지연 시간에 민감한, 그리고 다양한 부하 패턴을 가진 동적 워크로드를 포함한 세 가지 시나리오에서 실제 클라우드 워크로드를 사용하여 평가되었다.

실험 결과

연구 질문

• RQ1 어떻게 간섭으로 인한 성능 저하를 최소화하면서 워크로드 통합을 최적화할 수 있는가?
• RQ2 과다할당 조건에서 자원 인지 및 간섭 인지 스케줄링이 CPU 시간 소비를 얼마나 줄일 수 있는가?
• RQ3 다양한 워크로드 유형과 과다할당 수준에서 간섭 인지 스케줄링의 성능은 라운드로빈 및 기타 기준 스케줄러와 비교해 어떻게 되는가?
• RQ4 사전 응용 프로그램 행동 지식 없이도 런타임 메트릭스만으로 효과적인 통합을 달성할 수 있는가?
• RQ5 과다할당이 VM 성능에 미치는 영향은 무엇이며, 스케줄링은 이를 어떻게 완화할 수 있는가?

주요 결과

• 과다할당 비율 1.0에서 지연 시간에 민감한 시나리오에서 IAS는 라운드로빈 스케줄링 대비 최대 50%까지 CPU 시간 소비를 줄였다.
• 동적 시나리오에서 RAS는 유휴 워크로드를 탐지하고 통합함으로써 성능을 18% 향상시키고 코어 시간을 최대 35%까지 줄였다.
• 과다할당 비율 2.0에서 RAS와 IAS는 기준 대비 성능을 10% 이내로 유지하면서 CPU 시간을 11.5%에서 15%까지 줄였다.
• 기준 스케줄러인 CAS는 코어 시간 절감에 미미한 개선을 보였고, 특히 과다할당 비율이 높을수록 RRS보다 성능이 열 劣하다.
• 자원과 간섭 인지의 조합은 QoS가 중요한 지연 민감형 애플리케이션을 훼손하지 않으면서도 상당한 에너지 절감과 함께 호스트 활용도를 향상시켰다.
• 결과적으로 간섭 인지 스케줄링은 전통적인 스케줄러가 적응하지 못하는 고밀도 VM 환경과 변동성이 큰 워크로드에서 특히 효과적임을 입증했다.