[论文解读] A Survey and Measurement Study of GPU DVFS on Energy Conservation

Xinxin Mei, Qiang Wang+1 more|arXiv (Cornell University)|Oct 6, 2016

Parallel Computing and Optimization Techniques参考文献 48被引用 4

一句话总结

本文研究了用于节能的GPU动态电压频率调节（DVFS），在NVIDIA Fermi与Maxwell GPU上开展了真实世界实验。研究发现，核心电压/频率调节可显著降低能耗——Fermi平台平均节省18.91%；而显存频率调节的影响具有平台依赖性，Maxwell平台在更高显存频率下受益，而Fermi平台结果则不一致，凸显了需根据应用特点进行DVFS调优的必要性。

ABSTRACT

Energy efficiency has become one of the top design criteria for current computing systems. The dynamic voltage and frequency scaling (DVFS) has been widely adopted by laptop computers, servers, and mobile devices to conserve energy, while the GPU DVFS is still at a certain early age. This paper aims at exploring the impact of GPU DVFS on the application performance and power consumption, and furthermore, on energy conservation. We survey the state-of-the-art GPU DVFS characterizations, and then summarize recent research works on GPU power and performance models. We also conduct real GPU DVFS experiments on NVIDIA Fermi and Maxwell GPUs. According to our experimental results, GPU DVFS has significant potential for energy saving. The effect of scaling core voltage/frequency and memory voltage/frequency depends on not only the GPU architectures, but also the characteristic of GPU applications.

研究动机与目标

• 分析现代GPU架构中GPU DVFS对性能、功耗和能效的影响。
• 调研最新GPU DVFS表征与建模技术，重点关注近期NVIDIA Fermi与Maxwell平台。
• 在真实GPU硬件上对核心与显存电压/频率调节进行实证测量，以建立基准。
• 识别在保持可接受性能的前提下最小化能耗的最优电压/频率设置。
• 强调由于架构差异与应用特定行为，建模GPU DVFS所面临的挑战。

提出的方法

• 在NVIDIA GTX 980（Maxwell）与Tesla K20X（Fermi）GPU上开展真实世界的DVFS实验，测量不同电压与频率设置下的性能与功耗。
• 通过标准基准中的34个核函数测量能耗与执行时间，评估DVFS对不同工作负载的影响。
• 分析频率调节与能耗之间的关系，识别非线性行为，如“节拍”与“竞速”效应。
• 独立评估核心与显存频率调节，对比Fermi与Maxwell架构的结果。
• 使用实测指标如最大能耗增加（Rmax）与平均能耗变化（R̂）量化调节效率低下问题。
• 将结果与厂商默认设置对比，以确定能效最优配置。

实验结果

研究问题

• RQ1 动态电压与频率调节（DVFS）对现代GPU架构的能耗与性能有何影响？
• RQ2 Fermi与Maxwell GPU代际之间的DVFS行为有何差异？
• RQ3 应用特性如何影响核心与显存频率调节在节能方面的有效性？
• RQ4 是否存在适用于所有GPU应用的通用最优频率设置，还是其随工作负载而异？
• RQ5 显存频率降低在多大程度上因执行时间增加而导致能耗浪费？

主要发现

• 在Fermi GPU上，降低核心电压与频率可实现平均18.91%的能耗节省，最高达24.4%。
• 在Maxwell GPU上，核心频率调节展现出显著的能耗节省，最低电压/频率设置在所有核函数中均实现最低能耗。
• Maxwell平台的显存频率调节表现出“竞速”效应：更高的显存频率始终降低能耗，平均Rmax为35.87%，平均R̂为0.72%。
• 在Fermi平台上，显存频率调节效果不够一致，平均Rmax为10.2%，平均R̂为3.5%，表明默认显存频率通常仍为最优。
• 在Maxwell GPU的24个核函数中，将显存频率降低30%导致能耗增加超过30%，最坏情况下能耗浪费达53.9%（bfs核函数）。
• 在Maxwell平台的34个核函数中，有34个核函数的默认显存频率设置为最优，表明其对通用工作负载已高度调优。