[논문 리뷰] Memos: Revisiting Hybrid Memory Management in Modern Operating System

Lei Liu, Mengyao Xie외 1명|arXiv (Cornell University)|2017. 03. 22.

Parallel Computing and Optimization Techniques참고 문헌 21인용 수 3

한 줄 요약

Memos는 현대의 DRAM-NVM 아키텍처를 위한 커널 레벨 하이브리드 메모리 관리 시스템을 제안하며, 실시간 모니터링과 페이지 이동을 통해 캐시, DRAM, NVM에 걸친 전체 메모리 계층에서의 데이터 배치를 동적으로 최적화한다. 이는 평균적으로 19.1% 높은 시스템 스루풋, 23.6% 향상된 QoS, 최대 83.3% 낮은 NVM 지연, 99% 에너지 절감, 40배 긴 NVM 수명을 달성한다.

ABSTRACT

The emerging hybrid DRAM-NVM architecture is challenging the existing memory management mechanism in operating system. In this paper, we introduce memos, which can schedule memory resources over the entire memory hierarchy including cache, channels, main memory comprising DRAM and NVM simultaneously. Powered by our newly designed kernel-level monitoring module and page migration engine, memos can dynamically optimize the data placement at the memory hierarchy in terms of the on-line memory patterns, current resource utilization and feature of memory medium. Our experimental results show that memos can achieve high memory utilization, contributing to system throughput by 19.1% and QoS by 23.6% on average. Moreover, memos can reduce the NVM side memory latency by 3~83.3%, energy consumption by 25.1~99%, and benefit the NVM lifetime significantly (40X improvement on average).

연구 동기 및 목표

• 이질적인 메모리 계층의 잠재력을 제대로 활용하지 못하는 기존 하이브리드 DRAM-NVM 시스템의 메모리 관리 한계를 해결하기 위해.
• 작업하중 패턴과 자원 활용도를 기반으로 캐시, DRAM, NVM 간의 동적이고 온라인 최적화된 데이터 배치를 가능하게 하기 위해.
• 시스템 스루풋, 서비스 품질(QoS), NVM 지연, 에너지 효율성, 내구성을 향상시키기 위해.
• 실시간 메모리 액세스 특성에 적응 가능한 실시간 모니터링 모듈과 페이지 이동 엔진을 설계하기 위해.

제안 방법

• 실시간 메모리 액세스 패턴, 활용도, 장치 특성에 대한 데이터를 수집하는 커널 레벨 모니터링 모듈을 도입한다.
• 성능와 에너지 간의 트레이드오���을 고려해 DRAM과 NVM 간 데이터를 이동시키는 페이지 이동 엔진을 활용한다.
• 지연, 대역폭, 지속성 요소를 고려해 메모리 계층 전반에서 최적의 데이터 배치를 결정하기 위해 작업하중 인식 히우리스틱을 적용한다.
• 오프라인 튜닝 없이도 변화하는 작업하중과 시스템 조건에 적응하는 동적 스케줄링을 적용한다.
• NVM의 하드웨어 기능(예: 바이트 단위 접근성, 지속성)을 활용해 씻기 강도를 최소화하고 수명을 연장한다.
• OS 커널과 통합하여 메모리 할당과 이동에 대한 저지연, 세밀한 제어를 가능하게 한다.

실험 결과

연구 질문

• RQ1 하이브리드 DRAM-NVM 시스템에서 메모리 계층 전체를 효율적으로 활용하기 위해 메모리 관리 체계는 어떻게 재설계되어야 하는가?
• RQ2 DRAM과 NVM 간 효과적이고 저비용의 데이터 이동을 가능하게 하는 런타임 신호와 히우리스틱은 무엇인가?
• RQ3 동적 메모리 관리가 시스템 스루풋, QoS, NVM 내구성 향상에 얼마나 기여할 수 있는가?
• RQ4 실제 작업하중 하에서 제안된 시스템은 NVM 지연과 에너지 소비를 어떻게 줄이는가?

주요 결과

• Memos는 다양한 작업하중에서 평균 19.1% 향상된 시스템 스루풋을 달성한다.
• 서비스 품질(QoS)이 평균 23.6% 향상되어 반응성과 공정성이 향상됨을 나타낸다.
• 지능적인 데이터 배치와 액세스 경쟁 감소로 인해 NVM 측 메모리 지연이 최대 83.3% 감소한다.
• 작업하중과 구성에 따라 에너지 소비가 25.1%에서 99%까지 감소한다.
• 쓰기 강도 감소와 최적화된 쓰기 패턴 덕분에 NVM 수명이 평균 40배 연장된다.
• 효율적인 커널 레벨 모니터링과 이동 기능 덕분에 최소한의 성능 오버헤드로 이러한 성과를 달성한다.