[論文レビュー] Energy-aware Task Scheduling with Deadline Constraint in DVFS-enabled Heterogeneous Clusters

Xinxin Mei, Qiang Wang+4 more|arXiv (Cornell University)|Apr 1, 2021

Parallel Computing and Optimization Techniques参考文献 48被引用数 5

ひとこと要約

本論文は、デッドライン制約下で総消費エネルギーを最小化する、DVFS対応のCPU-GPU異種クラスタ向けエネルギー効率の良いタスクスケジューリングフレームワークを提案する。GPUのパフォーマンスと消費電力の非線形性をモデル化し、パrameter θ を用いたランタイムにおけるDVFS再調整戦略を採用することで、動的、アイドル、起動時のエネルギーコストをバランスさせながら、最大33–35%のエネルギー削減を達成。これは理論的上限に近く、高いエネルギー効率を実現している。

ABSTRACT

Energy conservation of large data centers for high-performance computing workloads, such as deep learning with big data, is of critical significance, where cutting down a few percent of electricity translates into million-dollar savings. This work studies energy conservation on emerging CPU-GPU hybrid clusters through dynamic voltage and frequency scaling (DVFS). We aim at minimizing the total energy consumption of processing a batch of offline tasks or a sequence of real-time tasks under deadline constraints. We derive a fast and accurate analytical model to compute the appropriate voltage/frequency setting for each task and assign multiple tasks to the cluster with heuristic scheduling algorithms. In particular, our model stresses the nonlinear relationship between task execution time and processor speed for GPU-accelerated applications, for more accurately capturing real-world GPU energy consumption. In performance evaluation driven by real-world power measurement traces, our scheduling algorithm shows comparable energy savings to the theoretical upper bound. With a GPU scaling interval where analytically at most 36% of energy can be saved, we record 33-35% of energy savings. Our results are applicable to energy management on modern heterogeneous clusters.

研究の動機と目的

• 厳密なタスクデッドライン制約下で、CPU-GPU異種クラスタの総消費エネルギーを最小化すること。
• 大規模データセンターで実行されるディープラーニングやビッグデータワークロードにおいて、GPUアクセcelレーションによるエネルギー非効率性の問題に対処すること。
• 実行時間、周波数、消費電力の間の非線形関係をモデル化し、正確なエネルギー予測を可能にすること。
• オフラインおよびオンラインのタスク実行モードにおいて、動的、アイドル、起動エネルギーのコストを効果的にバランスさせるヒューリスティックスケジューリングアルゴリズムを設計すること。
• ランタイムにおけるDVFS再調整（θパラメータを介して）が、デッドライン遵守を損なわずにアイドルエネルギーとオーバーヘッドエネルギーを低減する効果を評価すること。

提案手法

• GPUコア周波数、メモリ周波数、コア電圧の独立的スケーリングを考慮したGPU固有のパフォーマンスおよび消費電力モデルを構築する。
• タスクごとの最適な電圧/周波数設定を計算する解析的最適化モデルを導出。これにより、デッドラインを満たしつつエネルギーを最小化する。
• 効率的なサーバへのタスク割り当てを実現するため、EDF順序付けを用いたヒューリスティックなビンパッキングスケジューリングアルゴリズムを実装する。
• 調整可能なパrameter θ を用いたランタイムにおけるDVFS再調整メカニズムを導入し、アクティブ状態とアイドル状態の間でのエネルギー消費を動的に再バランスする。
• 実際の電力測定トレースを用いてモデルを検証し、実際のワークロード下でのエネルギー削減効果を評価する。
• パrameter化されたエネルギーモデルを用いて、さまざまな構成（ベースライン、再調整なしのDVFS、θ再調整ありのDVFS）における総消費エネルギーをシミュレーションおよび比較する。

実験結果

リサーチクエスチョン

• RQ1 GPU固有の動的電圧周波数スケーリング（DVFS）を、実行時間と消費電力の非線形的トレードオフを正確に反映する形でどのようにモデル化できるか？
• RQ2 厳密なデッドライン制約下で、CPU-GPU異種クラスタにおける総エネルギー消費を最小化する最適なスケジューリング戦略は何か？
• RQ3 ランタイムにおけるDVFS再調整（θを介して）は、複数のCPU-GPUペアを備えたサーバーにおいて、動的、アイドル、起動エネルギーのバランスにどのように影響を与えるか？
• RQ4 実際の環境ではどの程度のエネルギー削減が達成可能であり、理論的上限にどの程度近づけるか？
• RQ5 サーバーの利用度とCPU-GPUペアの数は、提案されたエネルギー管理戦略の有効性にどのような影響を与えるか？

主な発見

• θ再調整を施した本手法のEDLスケジューリングアルゴリズムは、33–35%のエネルギー削減を達成。理論的上限の36%に非常に近い。
• l = 16（16個のCPU-GPUペア）の場合、θ = 1（102.49 MJ）からθ = 0.95（100.94 MJ）に変更することで、アイドルエネルギーが1.55 MJ削減された。
• θ = 0.8に設定した場合、l = 1を除くすべての構成で最も低い総消費エネルギーが達成され、マルチGPUサーバーにおいて優れたロバスト性を示した。
• θが小さいほどアイドルエネルギーが顕著に削減され、特にl > 1の場合に顕著で、高利用度クラスタにおけるランタイム再調整の重要性を示している。
• EDF順序付けを施したビンパッキングファーストフィットアルゴリズムは、EDLベースのアルゴリズムに比べ、起動オーバーヘッドとアイドルエネルギーの制御において優れた性能を示した。
• θを小さくするとランタイムエネルギーがわずかに増加するが、アイドルエネルギーと起動エネルギーの削減がそれを上回り、結果としてネットエネルギー削減が達成された。