[논문 리뷰] Implications of Integrated CPU-GPU Processors on Thermal and Power Management Techniques

Kapil Dev, Indrani Paul외 4명|arXiv (Cornell University)|2018. 08. 29.

Parallel Computing and Optimization Techniques참고 문헌 2인용 수 4

한 줄 요약

이 논문은 실제 하드웨어에서 적외선 열영상 촬영 및 전력 매핑을 통해 통합 CPU-GPU 프로세서의 열 및 전력 관리 문제를 조사한다. DVFS와 워크로드 스케줄링이 이종 시스템에서 서로 밀접하게 연결되어 있음을 보여주며, 응용 프로그램 수준의 스케줄링(OpenCL를 통해)이 운영체제 수준의 스케줄링보다 열 및 전력 관리 효율성이 높음을 입증한다. 이는 아키텍처적 차이와 근접 효과를 활용하여 피크 온도와 전력 밀도를 감소시킨다.

ABSTRACT

Heterogeneous processors with architecturally different cores (CPU and GPU) integrated on the same die lead to new challenges and opportunities for thermal and power management techniques because of shared thermal/power budgets between these cores. In this paper, we show that new parallel programming paradigms (e.g., OpenCL) for CPU-GPU processors create a tighter coupling between the workload, the thermal/power management unit and the operating system. Using detailed thermal and power maps of the die from infrared imaging, we demonstrate that in contrast to traditional multi-core CPUs, heterogeneous processors exhibit higher coupled behavior for dynamic voltage and frequency scaling and workload scheduling, in terms of their effect on performance, power, and temperature. Further, we show that by taking the differences in core architectures and relative proximity of different computing cores on the die into consideration, better scheduling schemes could be implemented to reduce both the power density and peak temperature of the die. The findings presented in the paper can be used to improve thermal and power efficiency of heterogeneous CPU-GPU processors.

연구 동기 및 목표

• 실제 워크로드 하에서 고해상도 열 및 전력 매핑을 사용하여 통합 CPU-GPU 프로세서의 열 및 전력 거동을 분석한다.
• 이종 프로세서에서 동적 전압 및 주파수 스케일링(DVFS)과 워크로드 스케줄링 간의 상호의존성을 조사한다.
• CPU 코어가 GPU에 가까워질수록 열 결합, 누설 전력, 피크 온도에 미치는 영향을 평가한다.
• CPU-GPU 시스템에서 열 인식 스케줄링 및 전력 관리 설계에 대한 함의를 규명한다.
• DVFS와 스케줄링 결정을 동시에 고려하여 성능 및 에너지 효율을 최적화하는 전략을 제안한다.

제안 방법

• 실제 CPU-GPU 프로세서에서 워크로드 실행 중에 고해상도 다이 레벨 열지도를 촬영하기 위해 적외선(IR) 열영상 촬영 기술과 IR 투명 오일 기반 히 heatsink을 사용한다.
• 열지도를 반전시켜 높은 정확도로 세부적인 전력 지ap을 계산하여 각 하드웨어 모듈의 정밀한 전력 및 온도 분해를 가능하게 한다.
• 다양한 DVFS 설정과 CPU 코어 할당 조건에서 OpenCL 및 SPEC CINT 2006 워크로드를 실행하여 열 및 전력 동역학을 연구한다.
• 열 및 전력 효율성의 상충 관계를 평가하기 위해 운영체제 기반 스케줄링과 응용 프로그램 기반 스케줄링(OpenCL 런타임을 통한)을 비교한다.
• 물리적 근접도에 기반한 CPU 코어와 GPU 간의 열 결합을 분석하여, 다양한 코어 할당 조건에서 피크 온도와 총 전력을 측정한다.
• 플로어플랜 인식 스케줄링을 사용하여 공간적 근접도와 열 영향 간의 상관관계를 분석하고, GPU 커널 실행에 최적의 CPU 코어를 식별한다.

실험 결과

연구 질문

• RQ1 이종 CPU-GPU 프로세서에서 성능, 전력, 온도 측면에서 DVFS와 워크로드 스케줄링는 어떻게 상호작용하는가?
• RQ2 CPU 코어가 GPU에 가까워질수록 열 결합, 누설 전력, 피크 다이 온도에 어떤 영향을 미치는가?
• RQ3 응용 프로그램 기반 OpenCL 스케줄링은 운영체제 기반 스케줄링에 비해 열 및 전력 효율성에서 어떻게 다른가?
• RQ4 CPU와 GPU 간의 비대칭적인 전력 밀도 및 열 프로파일은 열 관리에 어떤 함의를 갖는가?
• RQ5 열 여유와 아키텍처적 차이를 바탕으로 국소적 냉각 또는 주파수 부스팅을 효과적으로 적용할 수 있는가?

주요 결과

• 응용 프로그램 기반 스케줄링(OpenCL 런타임을 통한)은 아키텍처 이질성의 특성을 활용하여 운영체제 기반 스케줄링보다 열 및 전력 효율성이 뛰어나다.
• GPU 커널을 Core3(가장 GPU에 가까운 코어)에서 실행할 경우 피크 온도가 11°C 상승하고 총 전력이 4.1 W 증가한다. 이는 더 강한 열 결합 때문이므로.
• 3 GHz DVFS 설정에서 CPU는 GPU보다 열 제한에 먼저 도달한다. 이는 GPU가 주요 계산 유닛임에도 불구하고 더 높은 열 민감도와 낮은 열 여유 공간 때문이므로.
• 고속 DVFS 설정에서 GPU의 피크 온도는 CPU보다 낮다. 이는 성능 향상을 위해 활용할 수 있는 열 여유가 존재함을 시사한다.
• GPU는 낮은 열 밀도를 보이므로 CPU에 비해 단위 면적당 열 센서 수를 줄일 수 있다. 이는 비용 효율적인 열 모니터링을 가능하게 한다.
• CPU와 GPU의 고유한 열 프로파일과 전력 밀도를 고려할 때, 국소적 냉각 솔루션(예: 열전 냉각기)을 별도로 적용하는 것이 효과적으로 가능하다.