[论文解读] Implications of Integrated CPU-GPU Processors on Thermal and Power Management Techniques

Kapil Dev, Indrani Paul+4 more|arXiv (Cornell University)|Aug 29, 2018

Parallel Computing and Optimization Techniques参考文献 2被引用 4

一句话总结

本文通过真实硬件上的红外热成像与功耗映射，研究了集成式CPU-GPU处理器中的热管理和功耗管理。研究结果表明，DVFS与工作负载调度在异构系统中紧密耦合，且通过OpenCL实现的应用级调度相比操作系统级调度能更高效地实现热与功耗管理，利用架构差异与邻近效应，降低峰值温度与功耗密度。

ABSTRACT

Heterogeneous processors with architecturally different cores (CPU and GPU) integrated on the same die lead to new challenges and opportunities for thermal and power management techniques because of shared thermal/power budgets between these cores. In this paper, we show that new parallel programming paradigms (e.g., OpenCL) for CPU-GPU processors create a tighter coupling between the workload, the thermal/power management unit and the operating system. Using detailed thermal and power maps of the die from infrared imaging, we demonstrate that in contrast to traditional multi-core CPUs, heterogeneous processors exhibit higher coupled behavior for dynamic voltage and frequency scaling and workload scheduling, in terms of their effect on performance, power, and temperature. Further, we show that by taking the differences in core architectures and relative proximity of different computing cores on the die into consideration, better scheduling schemes could be implemented to reduce both the power density and peak temperature of the die. The findings presented in the paper can be used to improve thermal and power efficiency of heterogeneous CPU-GPU processors.

研究动机与目标

• 通过高分辨率热成像与功耗映射，分析真实工作负载下集成式CPU-GPU处理器的热与功耗特性。
• 研究异构处理器中动态电压频率调节（DVFS）与工作负载调度之间的相互依赖关系。
• 评估CPU核心与GPU之间的物理邻近度对热耦合、漏电流功耗及峰值温度的影响。
• 识别热感知调度与功耗管理在CPU-GPU系统中的设计启示。
• 提出通过联合考虑DVFS与调度决策，优化性能与能效的策略。

提出的方法

• 采用红外（IR）热成像技术，结合IR透明的油基散热器，在工作负载执行期间捕获真实CPU-GPU处理器的晶圆级高分辨率热图。
• 将热图反向转换，以高精度计算详细功耗图，实现对每个硬件模块的精确功耗与温度分解。
• 在不同DVFS设置与CPU核心亲和性下执行一系列OpenCL与SPEC CINT 2006工作负载，以研究热与功耗动态特性。
• 对比基于操作系统的调度与通过OpenCL Runtime实现的应用级调度，评估热与功耗效率的权衡。
• 基于物理邻近度分析CPU核心与GPU之间的热耦合，测量不同核心分配下的峰值温度与总功耗。
• 采用版图感知的调度策略，将空间邻近度与热影响相关联，识别出最适合GPU内核启动的CPU核心。

实验结果

研究问题

• RQ1 在异构CPU-GPU处理器中，DVFS与工作负载调度在性能、功耗与温度方面如何相互作用？
• RQ2 CPU核心与GPU之间的物理邻近度对热耦合、漏电流功耗与峰值芯片温度有何影响？
• RQ3 应用级OpenCL调度与操作系统级调度在热与功耗效率方面有何差异？
• RQ4 CPU与GPU之间不对称的功耗密度与热分布对热管理有何影响？
• RQ5 能否基于热余量与架构差异，有效实施局部冷却或频率提升？

主要发现

• 通过OpenCL Runtime实现的应用级调度，通过利用架构异质性，相比操作系统级调度能实现更优的热与功耗效率。
• 当从距离GPU最近的Core3启动GPU内核时，峰值温度上升11°C，总功耗增加4.1 W，这是由于更强的热耦合效应所致。
• 在3 GHz DVFS设置下，尽管GPU是主要计算单元，但CPU因热敏感性更高且热余量更低，会先达到热极限。
• 在高DVFS设置下，GPU的峰值温度低于CPU，表明存在可用于性能提升的热余量。
• GPU的热密度较低，因此每单位面积所需的热传感器数量少于CPU，从而实现更具成本效益的热监测。
• 鉴于CPU与GPU具有不同的热特性与功耗密度，可有效将局部冷却解决方案（如热电冷却器）分别针对CPU与GPU进行部署。