[논문 리뷰] Modeling and Predicting Power Consumption of High Performance Computing Jobs

Curtis B. Storlie, Joe Sexton외 4명|arXiv (Cornell University)|2014. 12. 17.

Algorithms and Data Compression참고 문헌 32인용 수 13

한 줄 요약

이 논문은 고성능 계산(HPC) 작업의 전력 소비를 예측하고 노드 수준의 전력 제한을 최적화하기 위해 은닉 마르코프 모델과 디리클레 프로세스 성분을 포함한 계층적 베이지안 모델을 제안한다. 통계적으로 정보화된 제한 전략은 균일한 제한 전략에 비해 평균 성능 저하를 약 75% 감소시키며, 이는 계산 능력에서 4.5개 노드에 해당하는 여유를 만들어낸다.

ABSTRACT

Power is becoming an increasingly important concern for large supercomputing centers. Due to cost concerns, data centers are becoming increasingly limited in their ability to enhance their power infrastructure to support increased compute power on the machine-room floor. At Los Alamos National Laboratory it is projected that future-generation supercomputers will be power-limited rather than budget-limited. That is, it will be less costly to acquire a large number of nodes than it will be to upgrade an existing data-center and machine-room power infrastructure to run that large number of nodes at full power. In the power-limited systems of the future, machines will in principle be capable of drawing more power than they have available. Thus, power capping at the node/job level must be used to ensure the total system power draw remains below the available level. In this paper, we present a statistically grounded framework with which to predict (with uncertainty) how much power a given job will need and use these predictions to provide an optimal node-level power capping strategy. We model the power drawn by a given job (and subsequently by the entire machine) using hierarchical Bayesian modeling with hidden Markov and Dirichlet process models. We then demonstrate how this model can be used inside of a power-management scheme to minimize the affect of power capping on user jobs.

연구 동기 및 목표

• 계산 수요가 증가하는 데 비해 전력 인프라가 따라가지 못하는 미래 초고성능 계산 센터에서의 전력 제약 문제를 해결한다.
• 일반적인 전력 제한의 비효율성을 극복하기 위해 불확실성을 고려한 작업별 전력 소비 예측을 수행한다.
• 성능 저하를 최소화하면서 전체 시스템 전력 제한 내에서 유지되는 데이터 기반의 통계적으로 타당한 제한 전략을 개발한다.
• 예측 모델링이 전력 제약이 있는 HPC 환경에서 계산 효율을 크게 향상시킬 수 있음을 입증한다.

제안 방법

• 사전 분포를 통해 불확실성을 반영하면서도 작업 수준의 전력 소비를 추정하기 위해 계층적 베이지안 모델링을 사용한다.
• 작업 실행 단계 동안의 전력 소비 동적 변화를 포착하기 위해 은닉 마르코프 모델을 적용한다.
• 고정된 클러스터 수를 가정하지 않고 다양한 작업 유형의 전력 소비 분포를 탄력적으로 모델링하기 위해 디리클레 프로세스 사전을 활용한다.
• 예측된 전력 수요에 기반해 각 작업별로 캡을 동적으로 조정하는 노드 수준의 동적 제한 전략에 예측된 전력 추정치를 통합한다.
• 새로운 데이터가 도착함에 따라 작업 전력 예측을 업데이트하기 위해 마르코프 체인 몬테카를로(MCMC) 방법을 사용한다.
• 실제 HPC 워크로드 데이터를 기반으로 시뮬레이션을 수행하여 여러 제한 전략—단순 균일, 베이지안, 실용적 추정—을 비교한다.

실험 결과

연구 질문

• RQ1 통계적 모델이 불확실성을 정량화하면서 HPC 작업의 전력 소비를 정확하게 예측할 수 있는가?
• RQ2 예측 기반 전력 제한 전략은 균일한 제한 전략에 비해 전체 성능 저하를 얼마나 줄이는가?
• RQ3 전력 제한 전략에서 계산 효율성과 예측 정확성 사이의 상충 관계는 어떠한가?
• RQ4 전력 제약 하에서 어떤 단일 작업의 최대 성능 저하를 모델이 줄일 수 있는가?
• RQ5 베이지안 방법을 통해 불확실성을 모델링하면 히وري스틱 추정에 비해 제한 성능이 얼마나 향상되는가?

주요 결과

• 제안된 베이지안 통계적 제한 전략은 단순 균일 제한 전략에 비해 평균 성능 저하를 약 75% 감소시킨다. 평균적으로 약 4%에서 약 1%로 감소한다.
• 모든 작업에 걸친 최대 성능 저하가 단순 전략의 약 24%에서 베이지안 전략의 약 6%로 감소하여, 영향력이 큰 작업에 대한 사용자 경험을 크게 향상시킨다.
• 실용적 추정 전략은 전체 베이지안 모델과 거의 동일한 평균 저하 성능를 달성하지만, 처리 속도가 10배 빠르므로 실시간 구현에 적합하다.
• 전체 베이지안 모델은 불확실성을 명시적으로 다루기 때문에 최대 저하를 더 잘 제어하지만, 실용적 접근은 이를 간과한다.
• 모델은 평균 전력 낭비를 줄여 총 45개 노드의 전력에서 4.5개 노드에 해당하는 추가 계산 능력을 확보하며, 이는 균일 제한 대비 5배의 효율 향상을 의미한다.
• 희귀하거나 외곽에 있는 작업에 대해 모델 실패의 위험은 존재하지만, 이러한 작업의 빈도가 낮기 때문에 전체 시스템 성능에 미치는 영향은 미미하다.