[논문 리뷰] Computing server power modeling in a data center: survey,taxonomy and performance evaluation

Leila Ismail, Huned Materwala|arXiv (Cornell University)|2020. 04. 26.

Cloud Computing and Resource Management참고 문헌 89인용 수 6

한 줄 요약

이 논문은 일관된 벤치마크, 측정 기법, 오차 지표를 사용하여 세 가지 서버 아키텍처에서 24종의 소프트웨어 기반 서버 전력 모델을 통합 평가한다. SVM 기반 모델은 다변수 시나리오에서 다른 모델을 능가하며, 단일 변수 모델의 경우 보간법이 가장 우수한 성능을 보이며, 하드웨어 플랫폼에 따라 성능이 크게 달라진다.

ABSTRACT

Data centers are large scale, energy-hungry infrastructure serving the increasing computational demands as the world is becoming more connected in smart cities. The emergence of advanced technologies such as cloud-based services, internet of things (IoT) and big data analytics has augmented the growth of global data centers, leading to high energy consumption. This upsurge in energy consumption of the data centers not only incurs the issue of surging high cost (operational and maintenance) but also has an adverse effect on the environment. Dynamic power management in a data center environment requires the cognizance of the correlation between the system and hardware level performance counters and the power consumption. Power consumption modeling exhibits this correlation and is crucial in designing energy-efficient optimization strategies based on resource utilization. Several works in power modeling are proposed and used in the literature. However, these power models have been evaluated using different benchmarking applications, power measurement techniques and error calculation formula on different machines. In this work, we present a taxonomy and evaluation of 24 software-based power models using a unified environment, benchmarking applications, power measurement technique and error formula, with the aim of achieving an objective comparison. We use different servers architectures to assess the impact of heterogeneity on the models' comparison. The performance analysis of these models is elaborated in the paper.

연구 동기 및 목표

• 실험 조건을 표준화하여 소프트웨어 기반 서버 전력 모델 간 객관적이고 재현 가능한 비교를 가능하게 하기 위해.
• 다양한 서버 아키텍처에서 하드웨어 이질성이 전력 모델 정확도에 미치는 영향을 평가하기 위해.
• 다양한 애플리케이션 워크로드에 적합한 선형 및 비선형 전력 모델링 기법 중 가장 정확한 것을 특정하기 위해.
• 데이터센터 운영자들이 에너지 효율적인 전력 모델을 선택하거나 개발하는 데 실질적인 통찰을 제공하기 위해.
• 무기동 전력, 특징 선택, 커널 함수 선택과 같은 핵심 설계 고려사항이 전력 모델링에 미치는 영향을 부각하기 위해.

제안 방법

• 하드웨어 이질성에 대한 모델의 강건성을 평가하기 위해 세 가지 서로 다른 서버 아키텍처에서 실험을 수행하였다.
• CPU, 메모리, 디스크, 네트워크 집약적 워크로드를 시뮬레이션하기 위해 아홉 가지 다양한 벤치마킹 애플리케이션을 사용하였다.
• 모든 모델과 시스템 간에 일관된 전력 측정 기법과 오차 계산 공식(MAPE)을 적용하였다.
• 시스템 성능 지표와 카운터를 활용하여 선형 회귀, SVM, 라소, 보간법을 포함한 24종의 소프트웨어 기반 전력 모델을 평가하였다.
• 특징 선택 기법을 적용하여 모델 개발을 위한 고상관도 특징(CPU, 메모리, 디스크 I/O 등)을 식별하였다.
• 스루풋 기반 및 성능 카운터 기반 모델링 접근 방식을 모두 테스트하여 정확도와 校정 필요성의 차이를 비교하였다.

실험 결과

연구 질문

• RQ1 이질적인 서버 아키텍처 전반에서 통일된 실험 환경에서 다양한 소프트웨어 기반 전력 모델의 성능은 어떻게 되는가?
• RQ2 선형 모델링 기법과 비선형 모델링 기법 중 어느 것이 서버 전력 소비 예측 오차를 가장 낮출 수 있는가?
• RQ3 메모리 활용도와 다수의 성능 카운터를 포함할 경우, CPU 전용 모델 대비 정확도는 어떻게 향상되는가?
• RQ4 무기동 전력에 대한 가정이 예측 정확도에 미치는 영향은 무엇이며, 특히 무기동 전력 비율이 낮은 현대의 에너지 효율 서버에서는 어떠한가?
• RQ5 커널 함수 선택과 다항식 활용 함수(선형, 이차, 삼차)가 SVM 기반 모델의 성능에 어떤 영향을 미치는가?

주요 결과

• 단일 변수 모델 중에서 보간법이 가장 낮은 추정 오차를 기록하여 선형 회귀 및 기타 방법보다 뛰어난 성능을 보였다.
• 다중 변수 모델 중에서 SVM 기반 전력 모델이 가장 낮은 오차를 기록하였으며, 특히 복잡한 다중 자원 워크로드에서 뛰어난 성능을 보였다.
• CPU 집약적 애플리케이션의 경우 보간법 모델이 가장 정확한 예측을 제공하였고, SVM은 CPU+메모리, CPU+메모리+디스크, CPU+메모리+디스크+네트워크 워크로드에서 뛰어난 성능을 보였다.
• 30개 변수를 사용한 라소 회귀 모델이 모든 애플리케이션 유형에서 가장 높은 추정 오차를 기록하여 가장 열 劣한 성능을 보였다.
• 모델 성능은 다양한 서버 아키텍처 간에 크게 달라졌으며, 재평가 없이 플랫폼 간 이식성이 제한됨을 시사한다.
• 무기동 전력이 최대 전력의 70%라고 가정하는 것은 특히 무기동 전력 비율이 낮은 현대의 에너지 효율 서버에서는 잘못된 예측을 유도한다.