[논문 리뷰] PowerTracer: Tracing requests in multi-tier services to save cluster power consumption

Yuan Lin, Jianfeng Zhan외 3명|arXiv (Cornell University)|2010. 07. 28.

Cloud Computing and Resource Management참고 문헌 41인용 수 4

한 줄 요약

PowerTracer는 요청 추적 기반 접근 방식을 통해 다중 계층 웹 서비스에서 정확하고 복잡도가 낮은 클러스터 수준의 DVFS 제어를 가능하게 한다. 주요 원인 경로 패턴을 식별하고 각 계층의 서비스 시간을 모니터링함으로써 성능 프로파일링 시간을 감소시키며, 한 번에 한 노드씩 주파수를 조절하는 간단한 피드백 제어기를 가능하게 하여, 3계층 테스트 플랫폼에서 이전 방법보다 뛰어난 전력 절감 성능을 달성한다.

ABSTRACT

As energy proportional computing gradually extends the success of DVFS (Dynamic voltage and frequency scaling) to the entire system, DVFS control algorithms will play a key role in reducing server clusters' power consumption. The focus of this paper is to provide accurate cluster-level DVFS control for power saving in a server cluster. To achieve this goal, we propose a request tracing approach that online classifies the major causal path patterns of a multi-tier service and monitors their performance data as a guide for accurate DVFS control. The request tracing approach significantly decreases the time cost of performance profiling experiments that aim to establish the empirical performance model. Moreover, it decreases the controller complexity so that we can introduce a much simpler feedback controller, which only relies on the single-node DVFS modulation at a time as opposed to varying multiple CPU frequencies simultaneously. Based on the request tracing approach, we present a hybrid DVFS control system that combines an empirical performance model for fast modulation at different load levels and a simpler feedback controller for adaption. We implement a prototype of the proposed system, called PowerTracer, and conduct extensive experiments on a 3-tier platform. Our experimental results show that PowerTracer outperforms its peer in terms of power saving and system performance.

연구 동기 및 목표

• 에너지 비례형 하드웨어를 갖춘 데이터센터에서 높은 클러스터 전력 소비 문제를 해결한다.
• 다중 계층 서비스에서 DVFS 제어를 위한 성능 프로파일링에 소요되는 시간과 복잡도를 감소시킨다.
• 한 번에 한 노드씩 주파수를 조절하는 더 단순한 피드백 제어기를 사용하여 정확한 클러스터 수준의 DVFS 제어를 가능하게 한다.
• 서비스 품질, 특히 지연 시간과 요청 마감 시간 준수율을 희생시키지 않으면서 전력 효율을 향상시킨다.

제안 방법

• 개별 요청에 의해 유발되는 메시지 전송 및 수신 활동의 이전-이후 관계를 갖는 인과 경로(요청 추적 경로)를 운영체제, 미들웨어 또는 애플리케이션 수준에서 시스템에 통합한다.
• 요청 처리에 있어 상당한 비중을 차지하는 주요 인과 경로 패턴을 식별하고 분류하며, 반복적으로 발생하는 실행 경로에 집중한다.
• 식별된 각 패턴에 대해 서버 측 지연, 특히 각 계층의 서비스 시간을 캡처하고 모니터링하여 구성 요소 수준의 성능 기여도를 이해한다.
• 추적된 패턴을 바탕으로 실증적 성능 모델을 구축하여 로드 수준 인식 기반의 신속한 DVFS 조절을 가능하게 한다.
• 빠른 주파수 스케일링을 위한 실증 모델과 한 노드의 주파수만을 동시에 조절하는 단순화된 피드백 제어기를 조합한 하이브리드 제어 시스템을 설계한다.
• 실제 워크로드 환경에서 평가하기 위해 3계층 플랫폼에 PowerTracer 프로토타입 시스템을 구현한다.

실험 결과

연구 질문

• RQ1 요청 추적 기반 접근 방식은 다중 계층 서비스에서 DVFS 제어를 위한 성능 프로파일링에 소요되는 시간과 복잡도를 어떻게 줄일 수 있는가?
• RQ2 단일 노드의 DVFS 조절에 의존하는 단순화된 피드백 제어기는 얼마나 효과적으로 클러스터 수준의 전력 관리를 유지할 수 있는가?
• RQ3 주요 인과 경로 패턴의 수와 서비스 시간 임계치는 전력 절감과 지연 시간, 마감 시간 위반 비율과 같은 성능 지표에 어떤 영향을 미치는가?
• RQ4 제안된 하이브리드 DVFS 제어 방식은 기존 솔루션보다 전력 효율성을 높일 수 있는가, 동시에 서비스 품질을 유지할 수 있는가?

주요 결과

• 요청 추적 기반 접근 방식은 실증적 성능 모델을 구축하기 위해 필요한 성능 프로파일링 실험의 시간 비용을 크게 감소시킨다.
• 주요 인과 경로 패턴에 집중함으로써 제어기 복잡도가 감소하여, 한 번에 한 노드씩 주파수를 조절하는 더 단순한 피드백 제어기가 가능해진다.
• PowerTracer는 [13]의 동료 시스템보다 뛰어난 전력 절감 성능을 달성하며, 워크로드와 지연 시간 제약 조건이 변화하는 상황에서도 유사한 성능을 유지한다.
• 엄격한 성능 기준 조건 하에서도 요청 마감 시간 위반 비율과 평균 서버 측 지연 시간을 낮게 유지한다.
• 주요 패턴의 수와 서비스 시간 임계치는 전력 소비와 성능 트레이드오프에 측정 가능한 영향을 미치며, 시스템은 이를 효과적으로 관리한다.
• 실증 모델을 통한 신속한 주파수 조절과 경량 피드백 루프를 조합한 하이브리드 제어 전략은 동적 환경에서의 반응성과 적응성을 동시에 확보한다.