[論文レビュー] Memos: Revisiting Hybrid Memory Management in Modern Operating System

Lei Liu, Mengyao Xie+1 more|arXiv (Cornell University)|Mar 22, 2017

Parallel Computing and Optimization Techniques参考文献 21被引用数 3

ひとこと要約

Memosは、現代のDRAM-NVMアーキテクチャ向けにカーネルレベルのハイブリッドメモリ管理システムを提案する。このシステムは、リアルタイムでの監視とページ移行を用いて、キャッシュ、DRAM、NVMにわたるメモリ階層全体にわたり動的にデータ配置最適化を実現する。実験では、平均して19.1%高いシステムスループット、23.6%高いQoS、NVM遅延が最大83.3%低減され、エネルギー消費が99%削減され、NVMの寿命が40倍に延びる。

ABSTRACT

The emerging hybrid DRAM-NVM architecture is challenging the existing memory management mechanism in operating system. In this paper, we introduce memos, which can schedule memory resources over the entire memory hierarchy including cache, channels, main memory comprising DRAM and NVM simultaneously. Powered by our newly designed kernel-level monitoring module and page migration engine, memos can dynamically optimize the data placement at the memory hierarchy in terms of the on-line memory patterns, current resource utilization and feature of memory medium. Our experimental results show that memos can achieve high memory utilization, contributing to system throughput by 19.1% and QoS by 23.6% on average. Moreover, memos can reduce the NVM side memory latency by 3~83.3%, energy consumption by 25.1~99%, and benefit the NVM lifetime significantly (40X improvement on average).

研究の動機と目的

• ハイブリッドDRAM-NVMシステムにおける従来のメモリ管理手法が、異種メモリ階層の潜在能力を十分に活用できないという限界を是正すること。
• ワークロードのパターンとリソース利用状況に基づき、キャッシュ、DRAM、NVMにわたる動的でオンラインのデータ配置最適化を可能にすること。
• システムスループット、サービス品質（QoS）、NVM遅延、エネルギー効率、耐久性の向上を図ること。
• リアルタイムでのメモリアクセス特性への適応を可能にする、カーネルレベルの監視モジュールとページ移行エンジンの設計・実装

提案手法

• メモリアクセスパターン、利用状況、デバイス特性に関するリアルタイムデータ収集を実行するカーネルレベルの監視モジュールを導入する。
• パフォーマンスとエネルギーのトレードオフに基づき、DRAMとNVM間でのデータ移行を実行するページ移行エンジンを採用する。
• 遅延、帯域幅、永続性を考慮したワークロードに適応したヒューリスティクスを用いて、メモリ階層全体における最適なデータ配置を決定する。
• オフラインチューニングを必要とせず、変化するワークロードとシステム状態に適応する動的スケジューリングを適用する。
• NVMのハードウェア機能（例：バイトアドレス指定可能、永続性）を活用し、書き込みアンプリフィケーションを低減して寿命を延ばす。
• OSカーネルと統合することで、メモリ割り当てと移行に対する低オーバーヘッドで細粒度な制御を実現する。

実験結果

リサーチクエスチョン

• RQ1 ハイブリッドDRAM-NVMシステムにおけるメモリ階層全体を効率的に活用するため、どのようにメモリ管理を再設計できるか？
• RQ2 DRAMとNVM間での効果的で低オーバーヘッドなデータ移行を実現するための実行時信号とヒューリスティクスは何か？
• RQ3 動的メモリ管理により、システムスループット、QoS、NVM耐久性はどの程度向上できるか？
• RQ4 提案手法は、実際のワークロード下でNVM遅延とエネルギー消費をどの程度低減できるか？

主な発見

• Memosは、多様なワークロードにおいて平均して19.1%高いシステムスループットを達成する。
• QoSは平均で23.6%向上し、応答性と公平性の向上を示している。
• 知的なデータ配置とアクセス競合の低減により、NVM側のメモリ遅延が最大83.3%低減される。
• ワークロードと構成に応じて、エネルギー消費が25.1%～99%まで削減される。
• 書き込みアンプリフィケーションの低減と最適化された書き込みパターンにより、NVM寿命が平均で40倍に延びる。
• 効率的なカーネルレベルの監視と移行により、最小限のパフォーマンスオーバーヘッドでこれらの利点を達成している。