[論文レビュー] On the Energy Proportionality of Scale-Out Workloads

Balaji Subramaniam, Wu-chun Feng|arXiv (Cornell University)|Jan 12, 2015

Cloud Computing and Resource Management参考文献 18被引用数 3

ひとこと要約

この論文は、実際のクラスタ上でデータサービング、ウェブ検索、データキャッシュワークロードを用いて、スケールアウトワークロードにおけるエネルギー比例性を調査している。電源プロビジョニング（アクティブ/低電力モード）とリソースプロビジョニングを評価した結果、アクティブおよびアイドルの低電力モードを組み合わせることで、システムの電力消費を最大47％、プロセッサの電力消費を最大77％削減でき、厳密な応答遅延SLOを満たす電力-性能のトレードオフを実現できることがわかった。

ABSTRACT

Our increasing reliance on the cloud has led to the emergence of scale-out workloads. These scale-out workloads are latency-sensitive as they are user driven. In order to meet strict latency constraints, they require massive computing infrastructure, which consume significant amount of energy and contribute to operational costs. This cost is further aggravated by the lack of energy proportionality in servers. As Internet services become even more ubiquitous, scale-out workloads will need increasingly larger cluster installations. As such, we desire an investigation into the energy proportionality and the mechanisms to improve the power consumption of scale-out workloads. Therefore, in this paper, we study the energy proportionality and power consumption of clusters in the context of scale-out workloads. Towards this end, we evaluate the potential of power and resource provisioning to improve the energy proportionality for this class of workloads. Using data serving, web searching and data caching as our representative workloads, we first analyze the component-level power distribution on a cluster. Second, we characterize how these workloads utilize the cluster. Third, we analyze the potential of power provisioning techniques (i.e., active low-power, turbo and idle low-power modes) to improve the energy proportionality of scale-out workloads. We then describe the ability of active low-power modes to provide trade-offs in power and latency. Finally, we compare and contrast power provisioning and resource provisioning techniques. Our study reveals various insights which will help improve the energy proportionality and power consumption of scale-out workloads.

研究の動機と目的

• スケールアウトワークロードにおけるエネルギー比例性の課題を調査すること。これらは応答遅延に敏感であり、大規模クラスタに依存している。
• クラスタ内のコンponentレベルでの電力消費割合を分析し、CPUがシステム電力の45–70％を占める主な電力消費源であることを同定すること。
• 細粒度の時間分解能（ミリ秒未塔）でのCPU利用状況のパターンを特徴づけ、電力節約の機会を特定すること。
• 電源プロビジョニング技術（アクティブ低電力、ターボ、アイドル低電力）の有効性を評価し、エネルギー比例性の向上を検証すること。
• 電源プロビジョニングとリソースプロビジョニング戦略を比較し、電力消費の削減と性能への影響のトレードオフを分析すること。

提案手法

• RAPLインタフェースを用いて、4ノードのクラスタ上で実地の電力測定を実施し、コンponentレベルの電力消費をモニタリングした。
• 代表的なスケールアウトワークロードを選定：データサービング（例：Netflix）、ウェブ検索（例：Google）、データキャッシュ（例：Facebook）。
• 電源プロビジョニング技術の評価：アクティブ低電力（C-states）、アイドル低電力（C-states）、ターボモードを評価し、応答遅延と電力への影響を測定した。
• ワークロードの特徴付けを用いて、サブミリ秒分解能でのCPU利用状況を分析し、高負荷時でさえも利用率の変動が顕著で、動的管理による電力節約の機会が大きいことがわかった。
• サーバー統合と動的オフロードを用いたリソースプロビジョニングの実装と比較を行い、さまざまな負荷レベルにおけるエネルギー削減効果を評価した。
• アクティブ低電力モードを用いて、電力-性能のトレードオフ空間をマッピングし、SLO制約内で設定可能な電力節約を可能にした。

実験結果

リサーチクエスチョン

• RQ1 スケールアウトワークロードにおいて、さまざまな負荷レベルでプロセッサがシステム全体の電力消費の主な要因であるとは言えるか、その程度はどの程度か？
• RQ2 細粒度の時間分解能（サブミリ秒）でのCPU利用状況はどのように変動するのか？ これは電源管理の機会にどのような含意を持つのか？
• RQ3 アクティブおよびアイドルの低電力モードは、応答遅延に敏感なワークロードにおけるエネルギー比例性と応答時間にどのような影響を与えるか？
• RQ4 さまざまな負荷レベルにおいて、電源プロビジョニングとリソースプロビジョニングは、エネルギー削減と性能への影響のトレードオフにおいて、どのように比較されるか？
• RQ5 アクティブ低電力モードは、厳密なSLOを満たしつつエネルギー消費を削減できる、実用的な電力-性能のトレードオフ空間を提供できるか？

主な発見

• スケールアウトワークロードでは、プロセッサがシステム全体の電力消費の45–70％を占めており、エネルギー最適化の主なターゲットである。
• サブミリ秒分解能でさえも、CPU利用状況の顕著な変動が確認され、動的管理による電力節約の機会が顕著に存在する。
• アクティブおよびアイドルの低電力モードを組み合わせることで、システム全体の電力消費を最大47％、プロセッサレベルの電力消費を最大77％削減できる。
• アクティブ低電力モードにより、設定可能な電力節約が可能なチューナブルな電力-性能のトレードオフ空間が実現され、サブ秒のSLOを満たしつつ低電力設定で運用可能なワークロードが可能になる。
• 低負荷レベルでは、アイドル電力が支配的であるため、リソースプロビジョニングが最も高いエネルギー比例性を達成するが、高負荷レベルでは電源プロビジョニングがより効果的になる。
• 本研究では、エネルギー比例的な運用が可能であることが確認されたが、すべての負荷レベルで一様ではない。性能へのコストは、選択された電源管理技術に応じて変動する。