[论文解读] Memos: Revisiting Hybrid Memory Management in Modern Operating System

Lei Liu, Mengyao Xie+1 more|arXiv (Cornell University)|Mar 22, 2017

Parallel Computing and Optimization Techniques参考文献 21被引用 3

一句话总结

Memos 提出了一种针对现代 DRAM-NVM 架构的内核级混合内存管理机制，通过实时监控和页迁移技术，动态优化整个内存层次结构（缓存、DRAM 和 NVM）中的数据布局。该系统在平均性能上实现了 19.1% 的系统吞吐量提升，23.6% 的服务质量（QoS）改善，NVM 延迟最高降低 83.3%，能耗降低 99%，NVM 寿命平均延长 40 倍。

ABSTRACT

The emerging hybrid DRAM-NVM architecture is challenging the existing memory management mechanism in operating system. In this paper, we introduce memos, which can schedule memory resources over the entire memory hierarchy including cache, channels, main memory comprising DRAM and NVM simultaneously. Powered by our newly designed kernel-level monitoring module and page migration engine, memos can dynamically optimize the data placement at the memory hierarchy in terms of the on-line memory patterns, current resource utilization and feature of memory medium. Our experimental results show that memos can achieve high memory utilization, contributing to system throughput by 19.1% and QoS by 23.6% on average. Moreover, memos can reduce the NVM side memory latency by 3~83.3%, energy consumption by 25.1~99%, and benefit the NVM lifetime significantly (40X improvement on average).

研究动机与目标

• 为解决现有混合 DRAM-NVM 系统中内存管理的局限性，这些局限性未能充分发挥异构内存层次结构的全部潜力。
• 实现基于工作负载模式和资源利用率的缓存、DRAM 和 NVM 之间数据布局的动态、在线优化。
• 提升系统吞吐量、服务质量（QoS）、NVM 延迟、能效以及持久性。
• 设计内核级监控模块和页迁移引擎，以支持对内存访问特性的实时自适应。

提出的方法

• 引入内核级监控模块，实时收集内存访问模式、资源利用率和设备特性的数据。
• 采用页迁移引擎，根据性能与能耗权衡，在 DRAM 和 NVM 之间迁移数据。
• 利用工作负载感知启发式算法，综合考虑延迟、带宽和持久性，确定内存层次结构中最佳的数据放置策略。
• 应用动态调度机制，根据工作负载和系统状态变化自适应调整，无需离线调优。
• 利用 NVM 的硬件特性（如字节寻址、持久性）以最小化写入放大，延长使用寿命。
• 与操作系统内核集成，实现对内存分配和迁移的低开销、细粒度控制。

实验结果

研究问题

• RQ1 如何重构内存管理机制，以高效利用混合 DRAM-NVM 系统中的完整内存层次结构？
• RQ2 哪些运行时信号和启发式方法能够实现 DRAM 与 NVM 之间高效、低开销的数据迁移？
• RQ3 动态内存管理在多大程度上能够提升系统吞吐量、QoS 和 NVM 耐久性？
• RQ4 在真实工作负载下，所提出系统如何降低 NVM 延迟和能耗？

主要发现

• Memos 在多种工作负载下平均提升了 19.1% 的系统吞吐量。
• 其服务质量（QoS）平均提升 23.6%，表明系统响应更快、调度更公平。
• 由于智能数据布局和访问竞争减少，NVM 侧内存延迟最高降低 83.3%。
• 能耗降低幅度为 25.1% 至 99%，具体取决于工作负载和配置。
• 通过减少写入放大和优化写入模式，NVM 寿命平均延长 40 倍。
• 得益于高效的内核级监控与迁移机制，系统在实现上述性能提升的同时，性能开销极低。