[论文解读] Using Cache-coloring to Mitigate Inter-set Write Variation in Non-volatile Caches

Sparsh Mittal|arXiv (Cornell University)|Oct 31, 2013

Parallel Computing and Optimization Techniques参考文献 19被引用 10

一句话总结

本文提出一种软件控制的缓存着色技术，以缓解非易失性最后一级缓存（LLC）中的跨集写入非均匀性问题，通过基于写入流量分析的动态物理页组到缓存集的重映射实现。仿真结果表明，缓存寿命平均提升4.20倍，性能开销极低，使STT-RAM及类似非易失性缓存适用于大规模、高能效处理器。

ABSTRACT

In recent years, researchers have explored use of non-volatile devices such as STT-RAM (spin torque transfer RAM) for designing on-chip caches, since they provide high density and consume low leakage power. A common limitation of all non-volatile devices is their limited write endurance. Further, since existing cache management policies are write-variation unaware, excessive writes to a few blocks may lead to a quick failure of the whole cache. We propose an architectural technique for wear-leveling of non-volatile last level caches (LLCs). Our technique uses cache-coloring approach which adds a software-controlled mapping layer between groups of physical pages and cache sets. Periodically the mapping is altered to ensure that write-traffic can be spread uniformly to different sets of the cache to achieve wear-leveling. Simulations performed with an x86-64 simulator and SPEC2006 benchmarks show that our technique reduces the worst-case writes to cache blocks and thus improves the cache lifetime by 4.07X.

研究动机与目标

• 为解决STT-RAM等非易失性存储器（NVM）设备在片上最后一级缓存（LLC）中写入耐久性有限的问题。
• 缓解因写入热点导致的跨集写入非均匀性，避免频繁写入的缓存集过早失效。
• 设计一种轻量级、软件控制的磨损均衡技术，适用于真实处理器，硬件开销极小。
• 在不显著降低性能或能效的前提下提升缓存寿命。

提出的方法

• 引入一种缓存着色抽象机制，通过软件控制的映射层将物理页组（内存区域）映射到缓存集。
• 周期性地对每个缓存颜色（一组缓存集）进行写入流量分析，识别出最活跃和最不活跃的颜色。
• 动态重映射部分颜色，将写入流量重新分布至使用率较低的缓存集，实现磨损均衡。
• 采用粗粒度的按颜色重映射（例如在16路、4MB缓存中使用64种颜色），而非逐集重映射，从而降低开销。
• 采用动态分析而非离线分析，使技术能够适应不同工作负载的变化。
• 可与针对组内写入非均匀性或写入减少的其他技术协同使用。

实验结果

研究问题

• RQ1 动态缓存着色重映射能否有效减少非易失性LLC中的跨集写入非均匀性？
• RQ2 该磨损均衡技术可实现多大程度的缓存寿命提升？
• RQ3 该技术在真实工作负载下的性能与能耗开销如何？
• RQ4 该技术能否在极低硬件支持下实现并保持在多样化工作负载下的有效性？
• RQ5 在不同写入强度和访问模式下，该技术的性能表现如何？

主要发现

• 在SPEC2006基准测试中，该技术使缓存寿命平均提升4.20倍，povray工作负载最高提升达20.3倍。
• 平均性能损失仅为4%（相对性能为0.96×），表明对应用程序执行影响极小。
• 能耗平均增加9.42%，但考虑到耐久性显著提升，该开销可接受。
• 在写入访问分布标准差较高的工作负载中（如povray、gem5），寿命提升最大，证实该方法在高写入非均匀性场景下有效。
• 当跨集写入非均匀性较高时，该方法效果最佳；对于写入模式本已均匀的应用，提升有限。
• 该方法具备可扩展性，且与其它磨损均衡及写入减少技术兼容，可实现协同的寿命延长。