[論文レビュー] Techniques and tools for measuring energy efficiency of scientific software applications

David Abdurachmanov, P. Elmer+8 more|arXiv (Cornell University)|Oct 10, 2014

Parallel Computing and Optimization Techniques参考文献 15被引用数 10

ひとこと要約

本論文は、ハードウェアセンサーやソフトウェアプロファイリングを用いて、ARMv7とx86-64アーキテクチャを比較する中で、科学的HPC/HTCワークロードにおけるエネルギー効率を測定する包括的な技術およびツールのセットを提示している。RAPLを介した関数レベルのエネルギープロファイリング機能を拡張したオープンソースのIgProfプロファイラーの拡張版を導入し、サーバークラスのシステムがサポートする限り、ARMv7はエネルギー効率の高い科学的コンピューティングにおいて強力な可能性を示している。

ABSTRACT

The scale of scientific High Performance Computing (HPC) and High Throughput Computing (HTC) has increased significantly in recent years, and is becoming sensitive to total energy use and cost. Energy-efficiency has thus become an important concern in scientific fields such as High Energy Physics (HEP). There has been a growing interest in utilizing alternate architectures, such as low power ARM processors, to replace traditional Intel x86 architectures. Nevertheless, even though such solutions have been successfully used in mobile applications with low I/O and memory demands, it is unclear if they are suitable and more energy-efficient in the scientific computing environment. Furthermore, there is a lack of tools and experience to derive and compare power consumption between the architectures for various workloads, and eventually to support software optimizations for energy efficiency. To that end, we have performed several physical and software-based measurements of workloads from HEP applications running on ARM and Intel architectures, and compare their power consumption and performance. We leverage several profiling tools (both in hardware and software) to extract different characteristics of the power use. We report the results of these measurements and the experience gained in developing a set of measurement techniques and profiling tools to accurately assess the power consumption for scientific workloads.

研究の動機と目的

• 大規模な科学的コンピューティングにおけるエネルギー消費の増加という懸念に対処すること、特に高エネルギー物理学（HEP）およびHPC/HTCワークロードを対象とする。
• 特にARMv7とIntel x86-64アーキテクチャにおいて、正確な電力消費測定技術を開発・検証すること。
• x86およびARMアーキテクチャの両方における関数レベルのエネルギープロファイリング機能を備えたIgProfプロファイラーを拡張し、ソフトウェアレベルでのエネルギー効率最適化を可能とすること。
• 実際のHEPワークロード（例：CMS）を用いて、ARMv7とx86-64プロセッサのエネルギー効率を比較し、アーキテクチャ的トレードオフを特定すること。
• 研究者が科学的アプリケーションにおけるエネルギー使用を評価・最適化できるよう、ハードウェアおよびソフトウェアベースの測定手法のツールキットを提供すること。

提案手法

• CPU、メモリ、システム部品の各レベルで細かくエネルギー消費を測定するために、搭載型電力監視チップ（例：TI INA231）とIntelのRAPLインタフェースを活用した。
• ノードレベルの粗い粒度のエネルギー監視を実施するため、外部電力メーター（例：クランプメーター、プラグインメーター）を用い、1％未満の精度と秒単位の時間分解能を達成した。
• PAPIを介してRAPLデータを読み取る仕組みを備えた、統計的サンプリングに基づくエネルギープロファイリングモジュールをIgProfに実装し、関数レベルのエネルギーコスト推定を可能とした。
• CMSワークロードを実行する実際のシステム上で物理的測定を実施し、ARMv7とx86-64アーキテクチャ間のエネルギーとパフォーマンスを比較した。
• エネルギープロファイリングモジュールの妥当性を検証するため、STREAMベンチマークを用い、Add、Copy、Triad、Scaleなどの関数における実行時間とエネルギー消費の相関関係を分析した。
• 開始/停止時間に基づくプロファイリングとサンプリング技術を組み合わせ、最小限のパフォーマンスオーバーヘッドで平均電力消費を推定した。

実験結果

リサーチクエスチョン

• RQ1 代表的なHEPワークロードを実行する際、ARMv7プロセッサのエネルギー消費はx86-64プロセッサと比べてどの程度か？
• RQ2 既存のハードウェア監視インターフェース（例：RAPL、搭載型センサ）は、科学的アプリケーションに対して、正確で細かく粒度の細かいエネルギー測定をどの程度可能にするか？
• RQ3 IgProfのようなソフトウェアプロファイリングツールは、64ビットARMを含むARMアーキテクチャにおいて、関数レベルのエネルギープロファイリングを効果的に拡張できるか？
• RQ4 科学的ベンチマークにおける実行時間とエネルギー消費の相関関係は何か？そして、この相関関係は最適化戦略にどのように活かせるか？
• RQ5 多様なHPC/HTCシステム部品におけるエネルギー効率の評価において、実用的な課題と測定のトレードオフは何か？

主な発見

• ARMv7プロセッサは、特にメモリ制限のワークロードにおいて、x86-64と比較して競争力のあるエネルギー効率を示し、将来的なエネルギー最適化HTCシステムへの応用の可能性を示唆している。
• STREAMベンチマークにおいて、プロセッサパッケージおよび電力プレーン0（CPUコア）のエネルギー消費は実行時間とよく一致したが、電力プレーン1（GPU）はほぼ一定であり、最小限のエネルギー消費であった。
• IgProfエネルギープロファイリングモジュールは、RAPLデータを活用して関数レベルのエネルギーコストを成功裏に捉え、シングルスレッドベンチマークにおいて実行時間とエネルギー消費の強い相関関係を示した。
• RAPLおよび搭載型センサを用いたハードウェアベースの監視はミリ秒レベルの精度と高い正確性を達成し、詳細なシステムレベルのエネルギー分析に適していることがわかった。
• IgProfへのエネルギープロファイリングの統合により、研究者が科学的コードにおけるエネルギー集約的関数を特定でき、エネルギー効率のための的確な最適化が可能になった。
• 本研究は、信頼性とパフォーマンスを確保するためのサーバークラスのシステムがARMv7アーキテクチャを基盤に構築される限り、ARMv7が科学的コンピューティングにおけるx86-64の代替として実用的であることを確認した。