[论文解读] A Cache Reconfiguration Approach for Saving Leakage and Refresh Energy in Embedded DRAM Caches

Sparsh Mittal|arXiv (Cornell University)|Sep 26, 2013

Parallel Computing and Optimization Techniques参考文献 22被引用 11

一句话总结

本文提出了一种用于嵌入式DRAM（eDRAM）缓存的动态缓存重配置技术，通过选择性关闭不活跃的缓存区域并仅对活跃区域中的有效数据进行刷新，从而同时降低泄漏能量和刷新能量。该方法在40 µs刷新周期下，相较于基线eDRAM缓存实现了22.8%的平均能效节省，相较于先前的Refrint polyphase-valid（RPV）等方法，在能效方面高出9.3个百分点，在性能提升方面高出3.8个百分点。

ABSTRACT

In recent years, the size and leakage energy consumption of large last level caches (LLCs) has increased. To address this, embedded DRAM (eDRAM) caches have been considered which have lower leakage energy consumption; however eDRAM caches consume a significant amount of energy in the form of refresh energy. In this paper, we present a technique for saving both leakage and refresh energy in eDRAM caches. We use dynamic cache reconfiguration approach to intelligently turn-off part of the cache to save leakage energy and refresh only valid data of the active (i.e. not turned-off) cache to save refresh energy. We evaluate our technique using an x86-64 simulator and SPEC2006 benchmarks and compare it with a recently proposed technique for saving refresh energy, named Refrint. The experiments have shown that our technique provides better performance and energy efficiency than Refrint. Using our technique, for a 2MB LLC and 40 micro-seconds eDRAM refresh period, the average saving in energy over eDRAM baseline (which periodically refreshes all cache lines) is 22.8%.

研究动机与目标

• 解决大型最后一级缓存（LLC）日益增长的能耗问题，特别是eDRAM架构中因短保持时间导致的高泄漏和刷新能耗。
• 克服eDRAM缓存尽管比SRAM泄漏更低，但因保持时间短（例如40 µs）而导致刷新操作消耗高达总能耗70%的局限性。
• 开发一种运行时、由软件驱动的技术，动态重配置缓存以最小化能耗，且无需离线分析或手动调优。
• 通过智能平衡活跃缓存使用、泄漏降低与刷新能耗节省，同时提升能效与性能。
• 证明eDRAM缓存可作为SRAM LLC的可行、高效能替代方案，尤其在技术缩放加剧、刷新周期进一步缩短的背景下。

提出的方法

• 利用动态分析实时监控程序行为，并估算不同缓存配置下的能耗。
• 采用轻量级硬件支持算法，定期评估并切换至预测能耗最低的缓存配置。
• 应用缓存重配置机制，禁用（关闭）不活跃的缓存Bank以减少泄漏能耗，仅保留活跃Bank用于数据访问。
• 通过仅对活跃缓存区域执行刷新操作来降低刷新能耗，这些区域更小，因此需要的刷新周期更少。
• 通过最小化对外部主存的访问来维持性能，仅导致MPKI（每千条指令的缺失数）平均增加0.42，表明对缓存未命中率影响极小。
• 在能耗估算中将整个处理器系统（包括主存）纳入考量，实现超越缓存本身的全局能耗优化。

实验结果

研究问题

• RQ1 动态缓存重配置在不降低性能的前提下，能在多大程度上同时减少eDRAM缓存的泄漏和刷新能耗？
• RQ2 与最先进的刷新能耗降低技术（如Refrint polyphase-valid，RPV）相比，所提技术在能耗节省和性能方面表现如何？
• RQ3 随着eDRAM刷新周期缩短（如40 µs vs. 30 µs），该技术的能效表现如何变化，以反映未来技术缩放趋势？
• RQ4 周期性缓存重配置对性能的影响如何，特别是对外部主存访问增加（MPKI）的影响？
• RQ5 在考虑刷新能耗的前提下，eDRAM缓存与SRAM缓存的能效表现如何比较，尤其是在保持周期缩短的情况下？

主要发现

• 所提技术在40 µs刷新周期下，相较于基线eDRAM缓存实现了22.8%的平均能耗节省，显著优于仅节省13.5%的RPV。
• 与基线eDRAM缓存相比，性能提升了9.7%，而RPV仅提升5.9%，表明该技术在降低能耗的同时维持或增强了性能。
• RPMKI（每千条指令的刷新次数）平均降低252.3，而RPV仅降低66.4，表明由于活跃缓存区域大幅减少，该技术在刷新能耗降低方面表现更优。
• 在30 µs刷新周期下，该技术实现27.9%的能耗节省，而RPV仅实现16.0%，表明随着刷新周期缩短，其优势因更高的刷新能耗开销而进一步扩大。
• MPKI平均仅增加0.42，表明尽管存在周期性重配置，缓存重配置带来的性能代价极低。
• 尽管eDRAM泄漏更低，但当刷新周期缩短至30 µs时，SRAM在能效上仍优于eDRAM，SRAM能耗仅比eDRAM高2.3%（相比40 µs时的22.2%），凸显了刷新能耗在系统级权衡中的关键作用。