[论文解读] ALEA: Fine-grain Energy Profiling with Basic Block Sampling

Lev Mukhanov, Dimitrios S. Nikolopoulos+1 more|arXiv (Cornell University)|Apr 3, 2015

Green IT and Sustainability参考文献 26被引用 8

一句话总结

ALEA 是一种用户空间、可移植的能耗分析工具，通过低频功率测量的概率采样，在基本块级别实现细粒度能耗核算。其平均误差率仅为 1.4–3.5%，执行开销低于 1%，可在英特尔和 ARM 平台上实现跨微架构级别的精确、低开销能耗优化。

ABSTRACT

Energy efficiency is an essential requirement for all contemporary computing systems. We thus need tools to measure the energy consumption of computing systems and to understand how workloads affect it. Significant recent research effort has targeted direct power measurements on production computing systems using on-board sensors or external instruments. These direct methods have in turn guided studies of software techniques to reduce energy consumption via workload allocation and scaling. Unfortunately, direct energy measurements are hampered by the low power sampling frequency of power sensors. The coarse granularity of power sensing limits our understanding of how power is allocated in systems and our ability to optimize energy efficiency via workload allocation. We present ALEA, a tool to measure power and energy consumption at the granularity of basic blocks, using a probabilistic approach. ALEA provides fine-grained energy profiling via statistical sampling, which overcomes the limitations of power sensing instruments. Compared to state-of-the-art energy measurement tools, ALEA provides finer granularity without sacrificing accuracy. ALEA achieves low overhead energy measurements with mean error rates between 1.4% and 3.5% in 14 sequential and parallel benchmarks tested on both Intel and ARM platforms. The sampling method caps execution time overhead at approximately 1%. ALEA is thus suitable for online energy monitoring and optimization. Finally, ALEA is a user-space tool with a portable, machine-independent sampling method. We demonstrate two use cases of ALEA, where we reduce the energy consumption of a k-means computational kernel by 37% and an ocean modelling code by 33%, compared to high-performance execution baselines, by varying the power optimization strategy between basic blocks.

研究动机与目标

• 解决现有能耗测量工具中粗粒度采样频率的根本局限，该局限阻碍了对短时代码区域（如基本块）的精确能耗核算。
• 通过引入概率采样模型，克服直接功率测量工具中测量精度与采样粒度之间的权衡。
• 实现在用户空间中可移植、低开销的能耗分析，无需内核级访问或平台特定校准，适用于多种架构。
• 通过提供每个基本块的能耗核算，支持能耗感知的代码优化，指导针对性的功耗限制与优化策略。
• 通过在高性能计算和科学工作负载上的真实用例，证明细粒度能耗优化的可行性与实际影响。

提出的方法

• 在传感器原生采样率（如 1–5 kHz）下，对物理功率测量进行系统性采样，以捕获随时间变化的能耗。
• 使用概率模型根据执行频率和持续时间，将总测量能耗分配至各个基本块，即使这些基本块的执行时间短于传感器采样周期。
• 实现与机器无关的采样机制，抽象硬件特定细节，确保在 x86 和 ARM 平台间的可移植性。
• 通过最小化代码插桩将采样机制集成至用户空间，确保低运行时开销（控制在约 1% 以内），并兼容生产工作负载。
• 利用执行上下文跟踪将能耗消耗与特定代码段关联，实现单个基本块粒度的性能分析。
• 使用高分辨率功率传感器的真值能耗测量结果验证模型，并与基线工具对比，量化准确率与开销。

实验结果

研究问题

• RQ1 对粗粒度功率测量进行概率采样，能否在可接受的准确率和低开销下实现基本块级别的细粒度能耗核算？
• RQ2 ALEA 在多种架构和工作负载下，其准确率与当前最先进的能耗分析工具相比如何？
• RQ3 细粒度能耗分析在多大程度上能够支持针对基本块级别的目标明确、高效的功耗优化策略？
• RQ4 内存访问模式和缓存争用对每个基本块能耗的影响如何？ALEA 是否能检测到此类相关性？
• RQ5 ALEA 是否可用于指导实际科学与 HPC 工作负载中的能耗优化？可实现多大程度的能耗节省？

主要发现

• ALEA 在英特尔 Sandy Bridge 平台上对粗粒度基本块的平均误差率为 1.4%，在 ARM Exynos 平台上为 1.9%；对细粒度基本块的误差率分别为 1.6% 和 3.5%。
• 所有基准测试中，ALEA 的执行时间开销均低于 1%，适用于在线能耗监控与优化。
• ALEA 有效识别并量化了基本块级别上内存访问速率与功耗之间的强相关性。
• 通过针对每个基本块的优化策略，ALEA 在 k-means 内核中实现 37% 的能耗降低，在海洋模拟代码中实现 33% 的降低，在光线追踪应用中实现 6% 的降低。
• 研究发现，每个基本块的最佳能效点各不相同：部分在略微降低频率时表现最佳，部分在降低核心数量时更优，部分则需要手动代码优化。
• 结果表明，与仅依赖传统电压频率调节相比，细粒度功耗限制与并发性抑制可带来更大的能耗节省。