[論文レビュー] Managing Hybrid Main Memories with a Page-Utility Driven Performance Model

Yang Li, Jongmoo Choi+6 more|arXiv (Cornell University)|Jul 13, 2015

Parallel Computing and Optimization Techniques参考文献 37被引用数 6

ひとこと要約

本稿では、DRAM-NVMメインメモリシステムにおけるシステム性能最適化を目的として、各ページをDRAMとNVMのどちらに配置するかの性能向上効果を推定するページユーティリティ駆動型ハイブリッドメモリ管理機構UBMを提案する。UBMは、アクセス頻度、ローリーダーバッファ局所性、メモリレベル並列性を組み合わせた包括的モデルを用いてページユーティリティを定量化し、データ配置を指針とする。これにより、最先端手法と比較して平均で14%（最大39%）の性能向上を達成した。

ABSTRACT

Hybrid memory systems comprised of dynamic random access memory (DRAM) and non-volatile memory (NVM) have been proposed to exploit both the capacity advantage of NVM and the latency and dynamic energy advantages of DRAM. An important problem for such systems is how to place data between DRAM and NVM to improve system performance. In this paper, we devise the first mechanism, called UBM (page Utility Based hybrid Memory management), that systematically estimates the system performance benefit of placing a page in DRAM versus NVM and uses this estimate to guide data placement. UBM's estimation method consists of two major components. First, it estimates how much an application's stall time can be reduced if the accessed page is placed in DRAM. To do this, UBM comprehensively considers access frequency, row buffer locality, and memory level parallelism (MLP) to estimate the application's stall time reduction. Second, UBM estimates how much each application's stall time reduction contributes to overall system performance. Based on this estimation method, UBM can determine and place the most critical data in DRAM to directly optimize system performance. Experimental results show that UBM improves system performance by 14% on average (and up to 39%) compared to the best of three state-of-the-art mechanisms for a large number of data-intensive workloads from the SPEC CPU2006 and Yahoo Cloud Serving Benchmark (YCSB) suites.

研究の動機と目的

• ヒューリスティックベースのポリシーがシステム性能への影響を直接モデル化しないことによる、ハイブリッドDRAM-NVMメインメモリシステムにおける不適切なデータ配置を解消すること。
• アクセス頻度やローリーダーバッファ局所性といった不完全な代理指標に依存する従来のアプローチの限界を克服し、実際にスタック時間の削減に寄与するかどうかを反映しない可能性を解消すること。
• ページをDRAMとNVMのどちらに配置するかのシステムレベルの利得を直接推定する性能モデルを構築し、データ移行意思決定を支援すること。
• アプリケーションレベルのスタック時間削減と、全体のシステム性能に対する遅延への感受性の両方を考慮したユーティリティ指標を導入し、システム全体の効率を向上させること。
• 多様なデータ集約ワークロードにおいて、ユーティリティ駆動型アプローチが、既存の最先端メカニズムを上回ることを実証すること。

提案手法

• アクセス頻度、ローリーダーバッファ局所性、メモリレベル並列性（MLP）の3要因を組み合わせたページユーティリティ指標を提案し、DRAMとNVMにページを配置した際のシステム性能向上を定量化する。
• 実行中のプログラムに対してオンラインプロファイリングを用いて、アクセス頻度、ローリーダーバッファ局所性、MLPの相互作用をモデル化し、アプリケーションレベルのスタック時間削減を推定する。
• 各アプリケーションのスタック時間削減が全体のシステム性能に与える寄与度をモデル化し、異なるアプリケーションが遅延に対して異なる感受性を示す可能性を認識する。
• 計算されたユーティリティ指標に基づき、高ユーティリティページを特定し、それらをDRAMに移行するハードウェアベースの機構（UBM）を実装する。
• ページレベルでのMLPを動的に推定するオンライン推定技術を用い、同じアプリケーション内でのページ間における性能影響の微細な差別化を可能にする。
• 性能とウェアレベリングのバランスを取るハイブリッドメモリ管理フレームワークにユーティリティモデルを統合し、動的ワークロード適合をサポートする。

実験結果

リサーチクエスチョン

• RQ1 ハイブリッドメモリシステムにおいて、特定のページをDRAMとNVMのどちらに配置するかのシステム性能向上効果を正確に推定する方法は何か？
• RQ2 アクセス頻度、ローリーダーバッファ局所性、メモリレベル並列性（MLP）が、ページをDRAMに移行した際の実際のスタック時間削減に与える影響を、どのように統合的に評価できるか？
• RQ3 全体のシステム性能がアプリケーションレベルのスタック時間にどれほど感受性を示すかは、異なるワークロードによってどのように変化するか？ そして、これを効果的なデータ配置のためのモデル化にはどう対応できるか？
• RQ4 システムレベルの性能影響を直接モデル化するユーティリティベースのメカニズムは、ヒューリスティックベースのデータ配置戦略を上回る性能を発揮できるか？
• RQ5 提案されたユーティリティモデルは、DRAMサイズやNVMアクセス遅延が異なる条件下でも、どれほど頑健であるか？

主な発見

• UBMは、SPEC CPU2006およびYCSBの多様なデータ集約ワークロードにおいて、3つの最先端手法の最良のものと比較して平均で14%の性能向上を達成した。
• UBMが達成する最大の性能向上は、特定のワークロードで39%に達し、遅延に敏感なシナリオにおいて顕著な利点を示している。
• MLP（メモリレベル並列性）を含むユーティリティモデルにより、特に重複するメモリリクエストを持つワークロードにおいて、ページ間での性能影響の差別化が向上した。
• UBMは、DRAMサイズやNVMアクセス遅延が異なるさまざまな構成においても一貫した性能向上を維持しており、高い頑健性を示している。
• 性能向上の背景には、直接的なヒューリスティクスに依存するのではなく、DRAMへの移行によって実際にスタック時間の削減が得られるページを特定できるモデルの能力がある。
• 本研究では、単に高アクセス頻度または低ローリーダーバッファ局所性のページを優先するのでは不十分であることが確認された。真の性能向上は、頻度、局所性、MLPの3要因の相乗的相互作用に依存している。