[论文解读] Towards energy efficiency and maximum computational intensity for stencil algorithms using wavefront diamond temporal blocking

David E. Keyes, Hatem Ltaief+2 more|arXiv (Cornell University)|Oct 21, 2014

Parallel Computing and Optimization Techniques参考文献 15被引用 6

一句话总结

本文提出波前菱形时间阻塞（MWD）用于稀疏算法，以提升多核CPU上的能效和计算强度。通过调节缓存块大小和主维度上的循环分块，MWD降低了代码平衡度和DRAM功耗——表明即使在固定时钟频率下，最佳性能也未必对应最低能耗。

ABSTRACT

We study the impact of tunable parameters on computational intensity (i.e., inverse code balance) and energy consumption of multicore-optimized wavefront diamond temporal blocking (MWD) applied to different stencil-based update schemes. MWD combines the concepts of diamond tiling and multicore-aware wavefront blocking in order to achieve lower cache size requirements than standard single-core wavefront temporal blocking. We analyze the impact of the cache block size on the theoretical and observed code balance, introduce loop tiling in the leading dimension to widen the range of applicable diamond sizes, and show performance results on a contemporary Intel CPU. The impact of code balance on power dissipation on the CPU and in the DRAM is investigated and shows that DRAM power is a decisive factor for energy consumption, which is strongly influenced by the code balance. Furthermore we show that highest performance does not necessarily lead to lowest energy even if the clock speed is fixed.

研究动机与目标

• 降低现代多核CPU上稀疏计算的代码平衡度与能耗。
• 分析缓存块大小与循环分块对计算强度和功耗分布的影响。
• 在固定时钟频率下评估性能与能效之间的权衡。
• 识别DRAM功耗在稀疏工作负载整体能耗中的主导作用。

提出的方法

• 将波前菱形时间阻塞（MWD）应用于结合菱形分块与多核感知波前阻塞，以减小缓存占用。
• 调节缓存块大小以最小化理论与实测的代码平衡度。
• 在主维度引入循环分块，以扩大可行菱形尺寸的范围。
• 测量CPU与DRAM的功耗以评估不同配置下的能效。
• 在现代Intel CPU上，于固定时钟频率下评估性能与能耗。
• 分析代码平衡度与能耗之间的关系，尤其关注DRAM功耗。

实验结果

研究问题

• RQ1 缓存块大小如何影响MWD优化稀疏核函数的代码平衡度与能耗？
• RQ2 在主维度上引入循环分块在多大程度上提升了MWD中菱形分块的适用性？
• RQ3 CPU与DRAM功耗在稀疏计算总能耗中各自贡献多少？
• RQ4 在时钟频率固定的情况下，达到最高性能是否总能实现最低能耗？
• RQ5 在MWD优化工作负载中，计算强度（代码平衡度的倒数）与能效之间存在何种相关性？

主要发现

• DRAM功耗是稀疏算法总能耗的主要决定因素，且显著受代码平衡度影响。
• 调节缓存块大小可有效降低代码平衡度并提升能效，即使性能未达峰值。
• 在主维度引入循环分块可扩大可行菱形尺寸的范围，增强优化灵活性。
• 即使在固定时钟频率下，最高性能也并不对应最低能耗，表明存在性能-能效权衡。
• 理论与实测的代码平衡度值高度一致，验证了模型在能效感知优化中的预测能力。
• 与标准波前时间阻塞相比，MWD显著降低了缓存需求，从而在多核系统上实现更好的可扩展性。