[論文レビュー] PowerTracer: Tracing requests in multi-tier services to save cluster power consumption

Yuan Lin, Jianfeng Zhan+3 more|arXiv (Cornell University)|Jul 28, 2010

Cloud Computing and Resource Management参考文献 41被引用数 4

ひとこと要約

PowerTracerは、リクエストトレーシングに基づくアプローチを提案し、マルチティア web サービスにおけるクラスターレベルの DVFS 制御を、正確かつ低複雑性で実現する。主な因果パスパターンを特定し、各ティアのサービス時間をモニタリングすることで、パフォーマンスプロファイルの時間を削減し、1ノードずつ周波数を調整するシンプルなフィードバック制御器を可能にし、3ティアのテストプラットフォーム上で、先行手法よりも優れた省電力効果を達成した。

ABSTRACT

As energy proportional computing gradually extends the success of DVFS (Dynamic voltage and frequency scaling) to the entire system, DVFS control algorithms will play a key role in reducing server clusters' power consumption. The focus of this paper is to provide accurate cluster-level DVFS control for power saving in a server cluster. To achieve this goal, we propose a request tracing approach that online classifies the major causal path patterns of a multi-tier service and monitors their performance data as a guide for accurate DVFS control. The request tracing approach significantly decreases the time cost of performance profiling experiments that aim to establish the empirical performance model. Moreover, it decreases the controller complexity so that we can introduce a much simpler feedback controller, which only relies on the single-node DVFS modulation at a time as opposed to varying multiple CPU frequencies simultaneously. Based on the request tracing approach, we present a hybrid DVFS control system that combines an empirical performance model for fast modulation at different load levels and a simpler feedback controller for adaption. We implement a prototype of the proposed system, called PowerTracer, and conduct extensive experiments on a 3-tier platform. Our experimental results show that PowerTracer outperforms its peer in terms of power saving and system performance.

研究の動機と目的

• エナジー比例型ハードウェアを備えたデータセンタでの高いクラスタ電力消費を低減すること。
• マルチティアサービスにおける DVFS 制御に必要なパフォーマンスプロファイリングの時間と複雑性を低減すること。
• 1ノードずつ周波数を調整するシンプルなフィードバック制御器を用いて、正確なクラスターレベルの DVFS 制御を可能にすること。
• サービス品質、特に遅延とリクエストのデッドライン遵守率に悪影響を及げることなく、電力効率を向上させること。

提案手法

• 個々のリクエストによって引き起こされる、送信・受信アクティビティの前後関係を持つ因果パス（メッセージ送受信の連鎖）を、OS、ミドルウェア、またはアプリケーションレベルでインストルメント化してトレースする。
• リクエスト処理に大きな寄与を示す主要な因果パスパターンを特定・分類し、繰り返し発生する実行パスに焦点を当てる。
• 特定されたパターンごとに、特に各ティアのサーバーサイド遅延、特にサービス時間の測定と監視を行い、コンponentレベルのパフォーマンス寄与度を理解する。
• トレースされたパターンに基づいて経験的パフォーマンスモデルを構築し、負荷レベルに応じた高速な DVFS モード変更を可能にする。
• 迅速な周波数スケーリングに用いる経験的モデルと、1ノードの周波数を段階的に調整する簡素化されたフィードバック制御器を組み合わせたハイブリッド制御システムを設計する。
• 実際のワークロード下で評価可能な、3ティアプラットフォーム上にプロトタイプシステム PowerTracer を実装する。

実験結果

リサーチクエスチョン

• RQ1 リクエストトレーシングは、マルチティアサービスにおける DVFS 制御に必要なパフォーマンスプロファイリングの時間と複雑性をどの程度低減できるか？
• RQ2 単一ノードの DVFS モジュレーションに依存する簡素化されたフィードバック制御器は、効果的なクラスターレベルの電力管理をどの程度維持できるか？
• RQ3 主要な因果パスパターンの数とサービス時間のしきい値は、電力消費と遅延、デッドライン違反率といったパフォーマンス指標にどのような影響を及ぼすか？
• RQ4 提案されたハイブリッド DVFS 制御アプローチは、既存のソリューションに比べて、サービス品質を維持した上で電力効率を向上させることができるか？

主な発見

• リクエストトレーシングによるアプローチは、経験的パフォーマンスモデルを構築するために必要なパフォーマンスプロファイリング実験の時間コストを顕著に低減した。
• 主要な因果パスパターンに焦点を当てることで、制御器の複雑性が低減し、1ノードずつ周波数を調整するシンプルなフィードバック制御器の実装が可能になった。
• PowerTracerは、その類似システム [13] よりも優れた省電力効果を達成しており、特に負荷変動や遅延制約が厳しい状況下でも顕著である。
• 厳しいパフォーマンスしきい値下でも、リクエストのデッドライン違反率と平均サーバーサイド遅延を低く維持している。
• 主なパターンの数とサービス時間のしきい値は、電力消費とパフォーマンスのトレードオフに測定可能な影響を及ぼすが、システムはこれを効果的に管理している。
• 経験的モデルによる高速な周波数変更と、軽量なフィードバックループを組み合わせたハイブリッド制御戦略は、動的環境においても迅速な対応性と適応性を提供している。