[論文レビュー] Implications of Integrated CPU-GPU Processors on Thermal and Power Management Techniques

Kapil Dev, Indrani Paul+4 more|arXiv (Cornell University)|Aug 29, 2018

Parallel Computing and Optimization Techniques参考文献 2被引用数 4

ひとこと要約

本論文は、実機上で赤外線熱画像法と電力マッピングを用いて、統合型CPU-GPUプロセッサにおける熱的および電力管理を調査している。動的電圧周波数スケーリング（DVFS）とワークロードスケジューリングが異種処理系において密接に連携していることを示し、OpenCLを介したアプリケーションレベルのスケジューリングが、アーキテクチャ的差異と近接効果を活用することで、OSレベルのスケジューリングよりも効率的な熱的および電力管理を実現できることを明らかにした。これにより、ピーク温度と電力密度が低減された。

ABSTRACT

Heterogeneous processors with architecturally different cores (CPU and GPU) integrated on the same die lead to new challenges and opportunities for thermal and power management techniques because of shared thermal/power budgets between these cores. In this paper, we show that new parallel programming paradigms (e.g., OpenCL) for CPU-GPU processors create a tighter coupling between the workload, the thermal/power management unit and the operating system. Using detailed thermal and power maps of the die from infrared imaging, we demonstrate that in contrast to traditional multi-core CPUs, heterogeneous processors exhibit higher coupled behavior for dynamic voltage and frequency scaling and workload scheduling, in terms of their effect on performance, power, and temperature. Further, we show that by taking the differences in core architectures and relative proximity of different computing cores on the die into consideration, better scheduling schemes could be implemented to reduce both the power density and peak temperature of the die. The findings presented in the paper can be used to improve thermal and power efficiency of heterogeneous CPU-GPU processors.

研究の動機と目的

• 実ワークロード下での統合型CPU-GPUプロセッサの熱的および電力的挙動を、高分解能の熱画像および電力マッピングを用いて分析すること。
• 異種プロセッサにおける動的電圧周波数スケーリング（DVFS）とワークロードスケジューリングの相互依存関係を調査すること。
• CPUコアがGPUに近接している影響が、熱的結合、リーク電力、およびピーク温度に与える影響を評価すること。
• CPU-GPUシステムにおける熱に配慮したスケジューリングおよび電力管理のための設計的インサイトを同定すること。
• DVFSとスケジューリング意思決定を統合的に考慮することで、パフォーマンスとエネルギー効率を最適化する戦略を提案すること。

提案手法

• 実CPU-GPUプロセッサのワークロード実行中に、赤外線（IR）透過性を持つオイルベースのヒ sinks を用いて、高分解能のダイレベル熱画像を取得した。
• 逆転熱画像を用いて、高精度な電力マップを計算し、各ハードウェアモジュールごとの正確な電力および温度分解能を可能にした。
• さまざまなDVFS設定およびCPUコアのアフィニティを用いて、OpenCLおよびSPEC CINT 2006ワークロードを実行し、熱的および電力的ダイナミクスを調査した。
• OSベースのスケジューリングとOpenCLランタイムを介したアプリケーションベースのスケジューリングを比較し、熱的および電力的効率のトレードオフを評価した。
• 物理的近接性に基づいてCPUコアとGPU間の熱的結合を分析し、異なるコア割り当てにおけるピーク温度および総電力を測定した。
• フロアプランを考慮したスケジューリングを用い、空間的近接性と熱的影響を相関させ、GPUカーネル起動に最適なCPUコアを同定した。

実験結果

リサーチクエスチョン

• RQ1 異種CPU-GPUプロセッサにおいて、DVFSとワークロードスケジューリングは、パフォーマンス、電力、温度の観点でどのように相互作用するか？
• RQ2 CPUコアがGPUに近接していることが、熱的結合、リーク電力、およびピークダイ温度に与える影響は何か？
• RQ3 アプリケーションベースのOpenCLスケジューリングは、OSベースのスケジューリングと比較して、熱的および電力的効率にどのように影響するか？
• RQ4 CPUとGPU間の非対称な電力密度および熱的プロファイルが、熱管理に与えるインパクトは何か？
• RQ5 熱的スロットとアーキテクチャ的差異に基づいて、局所的冷却や周波数ブーストを効果的に適用できるか？

主な発見

• アプリケーションベースのスケジューリング（OpenCLランタイム経由）は、アーキテクチャの非均一性を活用することで、OSベースのスケジューリングよりも優れた熱的および電力的効率を達成した。
• GPUカーネルをCore3（GPUに最も近い）から起動した場合、Core0（GPUから離れている）から起動した場合と比較して、ピーク温度が11°C上昇し、総電力が4.1 W増加した。これは、より強い熱的結合によるものである。
• 3 GHzのDVFS設定では、GPUが主な計算ユニットであるにもかかわらず、CPUがGPUよりも先に熱的限界に達した。これは、CPUの熱感受性が高く、熱的余裕が小さいためである。
• 高DVFS設定下ではGPUのピーク温度がCPUよりも低く、性能ブーストに利用可能な熱的スロットが存在することが示された。
• GPUの低い熱的密度のおかげで、CPUに比べて単位面積あたりの熱センサー数を減らすことができるため、コスト効率の高い熱モニタリングが可能である。
• CPUおよびGPUそれぞれに別々に効果的に作用する局所的冷却ソリューション（例：熱電冷却素子）を適用できる。これは、両者の異なる熱的プロファイルおよび電力密度を踏まえたものである。