[論文レビュー] A Survey and Measurement Study of GPU DVFS on Energy Conservation

Xinxin Mei, Qiang Wang+1 more|arXiv (Cornell University)|Oct 6, 2016

Parallel Computing and Optimization Techniques参考文献 48被引用数 4

ひとこと要約

本論文は、エネルギー効率の向上を目的として、NVIDIA FermiおよびMaxwell GPU上で実施された実機実験を通じて、GPUの動的電圧周波数スケーリング（DVFS）の検討を行っている。コアの電圧／周波数スケーリングは、エネルギー消費を顕著に削減する結果となり、Fermiでは平均で18.91%の節約効果を示した。一方、メモリ周波数スケーリングの効果はプラットフォームに依存し、Maxwellでは高いメモリ周波数が好ましく、Fermiでは結果がばらつきが見られた。これは、アプリケーションに応じたDVFSチューニングの重要性を示している。

ABSTRACT

Energy efficiency has become one of the top design criteria for current computing systems. The dynamic voltage and frequency scaling (DVFS) has been widely adopted by laptop computers, servers, and mobile devices to conserve energy, while the GPU DVFS is still at a certain early age. This paper aims at exploring the impact of GPU DVFS on the application performance and power consumption, and furthermore, on energy conservation. We survey the state-of-the-art GPU DVFS characterizations, and then summarize recent research works on GPU power and performance models. We also conduct real GPU DVFS experiments on NVIDIA Fermi and Maxwell GPUs. According to our experimental results, GPU DVFS has significant potential for energy saving. The effect of scaling core voltage/frequency and memory voltage/frequency depends on not only the GPU architectures, but also the characteristic of GPU applications.

研究の動機と目的

• 現代のGPUアーキテクチャにおけるGPU DVFSの性能、消費電力、エネルギー効率への影響を分析すること。
• 最近のNVIDIA FermiおよびMaxwellプラットフォームを対象として、GPU DVFSの特徴抽出およびモデリング技術の最新動向を調査すること。
• 実際のGPUハードウェアを用いたコアおよびメモリの電圧／周波数スケーリングの実験的測定を行い、ベンチマークを確立すること。
• 性能を十分に維持しつつエネルギー消費を最小限に抑える最適な電圧／周波数設定を特定すること。
• アーキテクチャの違いやアプリケーション固有の挙動による、GPU DVFSのモデリングの難しさを強調すること。

提案手法

• NVIDIA GTX 980（Maxwell）およびTesla K20X（Fermi）GPUを用いて、実機でのDVFS実験を実施し、さまざまな電圧および周波数設定における性能と消費電力を測定した。
• 標準ベンチマークから抽出した34個のカーネルを対象に、エネルギー消費と実行時間を測定し、DVFSが異なるワークロードに与える影響を評価した。
• 周波数スケーリングとエネルギー消費の関係を分析し、『ペーシング』や『レーシング』効果といった非線形な挙動を同定した。
• コアおよびメモリ周波数スケーリングを独立して評価し、FermiおよびMaxwellアーキテクチャ間で結果を比較した。
• スケーリングの非効率性を定量化するために、最大エネルギー増加率（Rmax）および平均エネルギー変化率（R̂）といった実験的指標を用いた。
• ベンダーのデフォルト設定と比較することで、エネルギー効率を最適化する設定を同定した。

実験結果

リサーチクエスチョン

• RQ1 動的電圧周波数スケーリング（DVFS）は、現代のGPUアーキテクチャにおいてエネルギー消費と性能にどのように影響を与えるか？
• RQ2 FermiおよびMaxwell GPU世代間におけるDVFS挙動の違いは何か？
• RQ3 アプリケーションの特性は、コアおよびメモリ周波数スケーリングのエネルギー節約効果にどのように影響を与えるか？
• RQ4 すべてのGPUアプリケーションに共通の最適周波数設定が存在するのか、それともワークロードによって異なるのか？
• RQ5 メモリ周波数を低下させることで、実行時間が延びることによるエネルギーの無駄遣いはどの程度まで進行するか？

主な発見

• Fermi GPUでは、コアの電圧および周波数を低減させることで、平均で18.91%のエネルギー節約が達成され、最大で24.4%の節約効果を示した。
• Maxwell GPUでは、コア周波数スケーリングが顕著なエネルギー節約をもたらし、最低の電圧／周波数設定では、すべてのカーネルで最小限のエネルギー消費が達成された。
• Maxwellプラットフォームにおけるメモリ周波数スケーリングでは『レーシング』効果が観察された。高いメモリ周波数が一貫してエネルギー消費を削減し、平均Rmaxは35.87%、平均R̂は0.72%であった。
• Fermiプラットフォームでは、メモリ周波数スケーリングの効果が一貫性に欠け、平均Rmaxは10.2%、平均R̂は3.5%であった。これは、デフォルトのメモリ周波数が多くの場合最適である可能性を示唆している。
• Maxwell GPUの24個のカーネルにおいて、メモリ周波数を30%低下させた結果、エネルギー消費が30%以上増加した。最悪ケースではエネルギー無駄は53.9%（bfsカーネル）に達した。
• Maxwellプラットフォームの34カーネルすべてにおいて、デフォルトのメモリ周波数設定が最適であった。これは、一般ワークロードに適応したチューニングが行われていることを示している。