[논문 리뷰] On the Energy Proportionality of Scale-Out Workloads

Balaji Subramaniam, Wu-chun Feng|arXiv (Cornell University)|2015. 01. 12.

Cloud Computing and Resource Management참고 문헌 18인용 수 3

한 줄 요약

이 논문은 실제 클러스터에서 데이터 서빙, 웹 검색, 데이터 캐싱 워크로드를 대상으로 스케일아웃 워크로드에서의 에너지 비례성(energy proportionality)을 조사한다. 전력 제공 방식(활성/저전력 모드)과 자원 제공 전략을 평가하여, 활성 모드와 대기 중 저전력 모드를 함께 사용할 경우 최대 47%의 시스템 전력 절감과 최대 77%의 프로세서 전력 절감을 이끌어내며, 엄격한 지연 SLO를 충족시키는 전력-성능 트레이드오프를 가능하게 한다.

ABSTRACT

Our increasing reliance on the cloud has led to the emergence of scale-out workloads. These scale-out workloads are latency-sensitive as they are user driven. In order to meet strict latency constraints, they require massive computing infrastructure, which consume significant amount of energy and contribute to operational costs. This cost is further aggravated by the lack of energy proportionality in servers. As Internet services become even more ubiquitous, scale-out workloads will need increasingly larger cluster installations. As such, we desire an investigation into the energy proportionality and the mechanisms to improve the power consumption of scale-out workloads. Therefore, in this paper, we study the energy proportionality and power consumption of clusters in the context of scale-out workloads. Towards this end, we evaluate the potential of power and resource provisioning to improve the energy proportionality for this class of workloads. Using data serving, web searching and data caching as our representative workloads, we first analyze the component-level power distribution on a cluster. Second, we characterize how these workloads utilize the cluster. Third, we analyze the potential of power provisioning techniques (i.e., active low-power, turbo and idle low-power modes) to improve the energy proportionality of scale-out workloads. We then describe the ability of active low-power modes to provide trade-offs in power and latency. Finally, we compare and contrast power provisioning and resource provisioning techniques. Our study reveals various insights which will help improve the energy proportionality and power consumption of scale-out workloads.

연구 동기 및 목표

• 지연에 민감하고 대규모 클러스터에 의존하는 스케일아웃 워크로드에서 에너지 비례성 도전 과제를 조사한다.
• 컴ponent 수준의 전력 분포를 분석하여, CPU가 시스템 전력의 45–70%를 차지하는 주요 전력 소비자임을 규명한다.
• 세밀한 시간 해상도(밀리초 이하)에서 CPU 활용도 패턴을 특성화하여 전력 절감 기회를 식별한다.
• 에너지 비례성 향상에 있어 전력 제공 기법(활성 저전력, 터보, 대기 중 저전력)의 효과를 평가한다.
• 전력 제공 전략과 자원 제공 전략을 비교하여, 전력 절감과 성능 영향 간의 상호 교환 관계를 분석한다.

제안 방법

• RAPL 인터페이스를 사용하여 구성요소 수준의 전력 소비를 모니터링한 4노드 클러스터에서 실측 전력 측정을 수행했다.
• 대표적인 스케일아웃 워크로드로 데이터 서빙(예: Netflix), 웹 검색(예: Google), 데이터 캐싱(예: Facebook)을 선정했다.
• 전력 제공 기법 평가: 활성 저전력(C-상태), 대기 중 저전력(C-상태), 터보 모드를 평가하여 지연과 전력에 미치는 영향을 측정했다.
• 워크로드 특성 분석을 통해 밀리초 이하 해상도에서의 CPU 활용도를 분석하여, 고부하 수준에서도 활용도가 낮은 경우가 있음을 규명했다.
• 서버 통합 및 동적 오프로딩을 통한 자원 제공을 구현하고 비교하여 다양한 부하 수준에서의 에너지 절감 효과를 평가했다.
• 활성 저전력 모드를 활용해 전력-성능 트레이드오프 공간을 매핑하여, SLO 제약 조건 내에서 설정 가능한 전력 절감을 가능하게 했다.

실험 결과

연구 질문

• RQ1 다양한 부하 수준에서 스케일아웃 워크로드에서 프로세서가 전체 시스템 전력의 주요 소비자인가?
• RQ2 세밀한 시간 해상도에서 CPU 활용도는 어떻게 변동하며, 이는 전력 관리 기회에 어떤 함의를 갖는가?
• RQ3 활성 및 대기 중 저전력 모드가 지연에 민감한 워크로드에서 에너지 비례성과 응답 시간에 미치는 영향은 무엇인가?
• RQ4 다양한 부하 수준에서 전력 제공 전략과 자원 제공 전략은 에너지 절감과 성능 영향 측면에서 어떻게 비교될 수 있는가?
• RQ5 활성 저전력 모드가 엄격한 SLO를 충족시키면서도 에너지 소비를 줄일 수 있는 실현 가능한 전력-성능 트레이드오프 공간을 제공할 수 있는가?

주요 결과

• 스케일아웃 워크로드에서 프로세서는 총 시스템 전력의 45–70%를 차지하여 에너지 최적화의 주요 대상이다.
• 밀리초 이하의 시간 해상도에서도 뚜렷한 CPU 활용도 변동성이 존재하여, 동적 관리 기반의 전력 절감 기회가 상당히 크다.
• 활성 및 대기 중 저전력 모드를 병행 적용할 경우 최대 47%의 시스템 전력 절감과 최대 77%의 프로세서 전력 절감을 달성할 수 있다.
• 활성 저전력 모드를 통해 조절 가능한 전력-성능 트레이드오프 공간을 확보하여, 하위초과 지연 SLO를 충족시키면서도 낮은 전력 설정에서 운영할 수 있다.
• 저부하 수준에서는 자원 제공 전략이 가장 뛰어난 에너지 비례성을 보이며, 이는 정지 전력이 지배적이기 때문이다. 반면 고부하 수준에서는 전력 제공 전략이 더 효과적이다.
• 이 연구는 에너지 비례 운영이 가능함을 확인했지만, 모든 부하 수준에서 균일하지 않으며, 선택된 전력 관리 기법에 따라 성능 비용이 달라진다는 점을 규명했다.