[논문 리뷰] Optimizing performance per watt on GPUs in High Performance Computing: temperature, frequency and voltage effects

Danny C. Price, M. A. Clark외 3명|arXiv (Cornell University)|2014. 07. 30.

Satellite Communication Systems참고 문헌 20인용 수 9

한 줄 요약

이 논문은 저온에서의 드라이브 전압을 낮추고 클럭 주파수를 높임으로써 NVIDIA K20 GPU에서의 성능-와트 최적화를 통해 에너지 효율을 최대 48% 향상시킬 수 있음을 보여준다. 이 방법은 온도 인식 전압 및 주파수 스케일링(T-DVFS)을 활용하여 물리적 트랜지스터 행동을 활용하며, 동적 전력 소비가 전압과 온도의 제곱에 비례함을 보여주어 HPC 및 전파 천문학 워크로드에서 뚜렷한 에너지 절감 효과를 낳는다.

ABSTRACT

The magnitude of the real-time digital signal processing challenge attached to large radio astronomical antenna arrays motivates use of high performance computing (HPC) systems. The need for high power efficiency (performance per watt) at remote observatory sites parallels that in HPC broadly, where efficiency is an emerging critical metric. We investigate how the performance per watt of graphics processing units (GPUs) is affected by temperature, core clock frequency and voltage. Our results highlight how the underlying physical processes that govern transistor operation affect power efficiency. In particular, we show experimentally that GPU power consumption grows non-linearly with both temperature and supply voltage, as predicted by physical transistor models. We show lowering GPU supply voltage and increasing clock frequency while maintaining a low die temperature increases the power efficiency of an NVIDIA K20 GPU by up to 37-48% over default settings when running xGPU, a compute-bound code used in radio astronomy. We discuss how temperature-aware power models could be used to reduce power consumption for future HPC installations. Automatic temperature-aware and application-dependent voltage and frequency scaling (T-DVFS and A-DVFS) may provide a mechanism to achieve better power efficiency for a wider range of codes running on GPUs

연구 동기 및 목표

• GPU 기반 HPC 시스템에서 온도, 전압, 클럭 주파수가 성능-와트에 미치는 영향을 조사하는 것.
• 파워 예산이 제한된 엑사스케일 컴퓨팅 및 원격 천체망원경 배치 환경에서의 전력 효율성 문제를 해결하는 것.
• 특히 제어된 열 조건 하에서 동적 전압 및 주파수 스케일링(DVFS)이 GPU 전력 효율성에 미치는 영향을 평가하는 것.
• 낮은 드라이브 전압과 높은 클럭 주파수를 통해 성능-와트를 크게 향상시킬 수 있음을 입증하는 것.
• HPC 시스템에 온도 인식 및 애플리케이션 기반 DVFS(T-DVFS 및 A-DVFS)를 통합하여 전체 시스템의 에너지 효율성을 향상시키기 위한 권고

제안 방법

• 제어된 드라이브 온도를 유지하면서 다양한 코어 클럭 주파수와 공급 전압에서 NVIDIA K20 GPU의 성능-와트를 측정하였다.
• 수냉식 냉각 시스템을 사용하여 드라이브 온도를 30°C까지 낮추고 열 과부하를 방지하였다.
• xGPU 코드—계산 중심의 전파 천문학적 상관관계 커널—를 적용하여 다양한 전압 및 주파수 설정에서의 성능 및 전력 소비를 평가하였다.
• 시스템 전력 소비를 동적 전력과 정적(누설) 전력의 합으로 모델링하였으며, 동적 전력은 전압과 주파수의 제곱에 비례함을 확인하였다.
• 냉각 전력까지 포함한 전체 시스템의 성능-와트 최적화를 위해 η_pow = N_OPS / (P_sys + P_cool + ...)와 같은 시스템 수준의 효율성 지표를 제안하였다.
• 냉각 시스템의 효율성을 평가하기 위해 수냉식 냉각과 표준 팬 기반 냉각의 전력 소비를 비교하였으며, 인프라 전력 소비가 감소함을 확인하였다.

실험 결과

연구 질문

• RQ1 제어된 온도 조건 하에서 공급 전압과 코어 클럭 주파수는 GPU 성능-와트에 어떤 영향을 미치는가?
• RQ2 낮은 드라이브 온도를 유지하면서 전압을 낮추고 주파수를 높임으로써 성능-와트는 어느 정도 향상될 수 있는가?
• RQ3 냉각 시스템 전력 소비를 효율성 지표에 포함시킬 경우, 최대 성능-와트를 위한 최적의 구성은 어떻게 달라지는가?
• RQ4 온도는 GPU 아키텍처에서 낮은 전압 작동과 높은 전력 효율성을 가능하게 하는 데 어떤 역할을 하는가?
• RQ5 온도 인식 및 애플리케이션 기반 동적 전압 및 주파수 스케일링(T-DVFS 및 A-DVFS)을 사용하여 다양한 HPC 워크로드에서 자동으로 전력 효율성을 최적화할 수 있는가?

주요 결과

• NVIDIA K20 GPU는 드라이브 온도를 30°C로 유지하면서 공급 전압을 낮추고 클럭 주파수를 높임으로써 성능-와트가 최대 48% 향상됨을 확인하였다.
• 동적 전력 소비는 전압과 온도에 대해 제곱 비례함을 확인하였으며, 이는 물리적 트랜지스터 모델과 일치하였다.
• 냉각 전력까지 포함한 시스템 수준의 성능-와트 지표는 낮은 드라이브 온도가 낮은 전압 작동을 가능하게 하여 효율성을 높임을 보여주었다.
• 수냉식 냉각은 표준 팬 기반 냉각 대비 인프라 전력 소비를 감소시켜 전체 시스템의 전력 효율성 향상에 기여하였다.
• 이 연구는 일반적인 데이터센터의 높은 냉각수 온도에 대한 이전 연구 결과와의 괴리를 드러냈다: PUE 중심의 일반적인 데이터센터와 달리, HPC 시스템은 전압 스케일링를 고려할 때 낮은 온도에서 더 큰 이점을 얻으며, 이는 PUE만으로는 반영되지 않는다.
• 애플리케이션 특화 및 온도 인식 동적 전압 및 주파수 스케일링(T-DVFS)은 열 및 워크로드 조건에 따라 자동으로 전압과 주파수를 조정함으로써 전력 효율을 크게 향상시킬 수 있다.