[論文レビュー] ALEA: Fine-grain Energy Profiling with Basic Block Sampling

Lev Mukhanov, Dimitrios S. Nikolopoulos+1 more|arXiv (Cornell University)|Apr 3, 2015

Green IT and Sustainability参考文献 26被引用数 8

ひとこと要約

ALEA は、低周波数の電力測定を確率的サンプリングすることで、基本ブロックレベルでの細粒度なエネルギー会計を可能にするユーザースペースでポータブルなエネルギープロファイリングツールである。実行オーバーヘッドが1%未塔で、平均誤差率が1.4–3.5%に抑えられ、Intel および ARM プラットフォーム上で微細なマイクロアーキテクチャ粒度の低オーバーヘッドなエネルギー最適化を実現する。

ABSTRACT

Energy efficiency is an essential requirement for all contemporary computing systems. We thus need tools to measure the energy consumption of computing systems and to understand how workloads affect it. Significant recent research effort has targeted direct power measurements on production computing systems using on-board sensors or external instruments. These direct methods have in turn guided studies of software techniques to reduce energy consumption via workload allocation and scaling. Unfortunately, direct energy measurements are hampered by the low power sampling frequency of power sensors. The coarse granularity of power sensing limits our understanding of how power is allocated in systems and our ability to optimize energy efficiency via workload allocation. We present ALEA, a tool to measure power and energy consumption at the granularity of basic blocks, using a probabilistic approach. ALEA provides fine-grained energy profiling via statistical sampling, which overcomes the limitations of power sensing instruments. Compared to state-of-the-art energy measurement tools, ALEA provides finer granularity without sacrificing accuracy. ALEA achieves low overhead energy measurements with mean error rates between 1.4% and 3.5% in 14 sequential and parallel benchmarks tested on both Intel and ARM platforms. The sampling method caps execution time overhead at approximately 1%. ALEA is thus suitable for online energy monitoring and optimization. Finally, ALEA is a user-space tool with a portable, machine-independent sampling method. We demonstrate two use cases of ALEA, where we reduce the energy consumption of a k-means computational kernel by 37% and an ocean modelling code by 33%, compared to high-performance execution baselines, by varying the power optimization strategy between basic blocks.

研究の動機と目的

• 既存のエネルギー測定ツールにおける粗い電力サンプリング周波数という根本的制限を解消し、基本ブロックのような短時間で終了するコード領域における正確なエネルギー会計を可能にする。
• 直接電力測定ツールにおける測定精度とサンプリング粒度のトレードオフを克服するために、確率的サンプリングモデルを導入する。
• カーネルレベルのアクセスやプラットフォーム固有のキャリブレーションを必要とせず、多様なアーキテクチャ間でポータブルな、実用的で低オーバーヘッドなユーザースペースでのエネルギープロファイリングを実現する。
• 個々の基本ブロックごとのエネルギー会計を提供することで、エネルギーに配慮したコード最適化を可能にし、ターゲットを絞った電力制限および最適化戦略を支援する。
• HPC および科学的ワークロードにおける実世界のユースケースを通じて、細粒度なエネルギー最適化の実現可能性と影響を示す。

提案手法

• センサーのネイティブなサンプリング周波数（例：1–5 kHz）で物理的電力測定を体系的に行い、時間経過に伴うエネルギー消費を捉える。
• 実行頻度および継続時間に基づいて、合計で測定されたエネルギーを個々の基本ブロックに確率的モデルを用いて配分する。これは、ブロックがセンサーのサンプリング周期未満で実行される場合でも有効である。
• ハードウェア固有の詳細を抽象化するマシン非依存のサンプリングメカニズムを実装し、x86 および ARM プラットフォーム間でのポータビリティを実現する。
• 最小限のインストルメンテーションを用いてユーザースペースにサンプリングメカニズムを統合し、実行時のオーバーヘッドを低く抑え（上限約1%）、本番ワークロードと互換性を保つ。
• 実行コンテキストの追跡を活用してエネルギー消費を特定のコードセグメントに関連付け、個々の基本ブロックの粒度でのプロファイリングを可能にする。
• 高分解能の電力センサーからの真値エネルギー測定を用いてモデルを検証し、ベースラインツールと比較することで精度とオーバーヘッドを定量的に評価する。

実験結果

リサーチクエスチョン

• RQ1 粗い粒度の電力測定の確率的サンプリングが、許容できる精度と低オーバーヘッドで、基本ブロックレベルでの細粒度なエネルギー会計を達成できるか？
• RQ2 ALEA の精度は、多様なアーキテクチャおよびワークロードにおいて、最先端のエネルギープロファイリングツールと比較してどの程度か？
• RQ3 細粒度なエネルギープロファイリングが、基本ブロックレベルでのターゲットを絞った効果的な電力最適化戦略をどの程度可能にするか？
• RQ4 メモリアクセスパターンおよびキャッシュ競合が、基本ブロックごとのエネルギー消費に与える影響は何か？また、ALEA はこのような相関関係を検出できるか？
• RQ5 ALEA は実際の科学的および HPC ワンラインでエネルギー最適化をガイドするために使用可能か？また、どの程度のエネルギー削減が達成可能か？

主な発見

• ALEA は、Intel Sandy Bridge で基本ブロックが粗粒度の場合に平均誤差率1.4%、ARM Exynos では1.9%を達成。細粒度ブロックではそれぞれ1.6%および3.5%の誤差率を示した。
• すべてのベンチマークで実行時間のオーバーヘッドが1%未満に抑えられ、オンラインでのエネルギー監視および最適化に適している。
• ALEA は、基本ブロックレベルでメモリアクセスレートと電力消費の強い相関関係を的確に同定および定量化した。
• 個々の基本ブロックごとの最適化戦略を適用することで、k-means カーネルで37%のエネルギー削減、海洋モデルコードで33%、レイトレーシングアプリケーションで6%のエネルギー削減を達成した。
• 研究では、最適なエネルギー効率が基本ブロックごとに異なることが判明した：一部のブロックはわずかに周波数を低下させると最良の効率を発揮し、他のブロックはコア数を減らすことで最適化され、一部は手動でのコード最適化を要することがわかった。
• 結果から、従来の電圧および周波数スケーリングに加えて、細粒度な電力制限および並行性スロットリングが、より高いエネルギー削減をもたらすことが示された。