[論文レビュー] Modeling and Predicting Power Consumption of High Performance Computing Jobs

Curtis B. Storlie, Joe Sexton+4 more|arXiv (Cornell University)|Dec 17, 2014

Algorithms and Data Compression参考文献 32被引用数 13

ひとこと要約

本論文では、ハイパーコンピューティング（HPC）ジョブの電力消費を予測し、ノード単位の電力制限を最適化するために、隠れマルコフモデルおよびディリクレ過程を組み合わせた階層ベイズモデルを提案する。統計的に情報に基づいた制限により、均一な制限と比較して平均的なパフォーマンス低下を約75％削減でき、計算能力の面で4.5ノード分に相当する余剰を生み出すことが示された。

ABSTRACT

Power is becoming an increasingly important concern for large supercomputing centers. Due to cost concerns, data centers are becoming increasingly limited in their ability to enhance their power infrastructure to support increased compute power on the machine-room floor. At Los Alamos National Laboratory it is projected that future-generation supercomputers will be power-limited rather than budget-limited. That is, it will be less costly to acquire a large number of nodes than it will be to upgrade an existing data-center and machine-room power infrastructure to run that large number of nodes at full power. In the power-limited systems of the future, machines will in principle be capable of drawing more power than they have available. Thus, power capping at the node/job level must be used to ensure the total system power draw remains below the available level. In this paper, we present a statistically grounded framework with which to predict (with uncertainty) how much power a given job will need and use these predictions to provide an optimal node-level power capping strategy. We model the power drawn by a given job (and subsequently by the entire machine) using hierarchical Bayesian modeling with hidden Markov and Dirichlet process models. We then demonstrate how this model can be used inside of a power-management scheme to minimize the affect of power capping on user jobs.

研究の動機と目的

• 計算需要の増大に比して電力インfraが追いつかない将来のスーパーコンピューティングセンターにおける電力制限の増大する課題に対処する。
• 一様な電力制限の非効率性を克服し、不確実性を伴ったジョブ固有の電力消費を予測する。
• データ駆動型で統計的に裏付けられた制限戦略を開発し、パフォーマンス低下を最小限に抑えつつ、総システム電力制限内に収める。
• 予測モデリングが、電力制限のあるHPC環境における計算効率を顕著に向上させられることを実証する。

提案手法

• ジョブレベルの電力消費を推定するため、事前分布を用いて不確実性を組み込んだ階層ベイズモデリングを用いる。
• ジョブ実行フェーズにおける電力消費の時間的ダイナミクスを捉えるために、隠れマルコフモデルを適用する。
• 固定されたクラスタ数を仮定せずに、多様なジョブタイプの電力消費分布を柔軟にモデル化するため、ディリクレ過程の事前分布を用いる。
• 予測された電力消費量を統合した動的ノード単位の制限戦略を構築し、ジョブごとに予測された電力ニーズに応じて制限値を調整する。
• 新たなデータが入手されるたびにジョブ電力予測を更新するため、マルコフ連鎖モンテカルロ（MCMC）法を用いる。
• 実HPCワークロードデータを用いたシミュレーションを通じて、ナイーブな均一制限、ベイズ制限、および実用的推定の複数の制限戦略を比較する。

実験結果

リサーチクエスチョン

• RQ1 統計的モデルは、不確実性を明確に定量化しながら、HPCジョブの電力消費を正確に予測できるか？
• RQ2 予測電力制限は、均一な制限と比較して、全体のパフォーマンス低下をどれほど低減できるか？
• RQ3 電力制限戦略において、計算効率と予測精度の間にはどのようなトレードオフがあるか？
• RQ4 電力制限下でも、特定のジョブにおける最大パフォーマンス低下をモデルが低減できるか？
• RQ5 ベイズ手法による不確実性のモデル化は、ヒューリスティック推定と比較して、制限性能をどのように向上させるか？

主な発見

• 提案されたベイズ統計的制限戦略により、ナイーブな均一制限と比較して平均的なパフォーマンス低下が約75％削減され、平均で約4％から約1％にまで低下した。
• ジョブ全体における最大パフォーマンス低下は、ナイーブな方法の約24％からベイズ法の約6％にまで低下し、高影響度ジョブのユーザーエクスペリエンスが顕著に向上した。
• 実用的推定アプローチは、完全なベイズモデルとほぼ同等の平均低下性能を達成したが、処理速度が10倍速く、リアルタイムでの展開が可能である。
• 完全なベイズモデルは、不確実性を明示的に取り扱うため、最大低下の制御が優れており、実用的アプローチがそれを無視している点が顕著に差を生じた。
• 平均的な電力浪費を削減することで、計算能力として4.5ノード分（45ノード）の余剰を生み出し、均一制限と比較して5倍の効率向上を実現した。
• レアまたは外れ値のジョブではモデルの失敗リスクがあるが、その頻度が低いため、システム全体のパフォーマンスに与える影響は最小限にとどまった。