[論文レビュー] Effectively Prefetching Remote Memory with Leap

Hasan Al Maruf, Mosharaf Chowdhury|arXiv (Cornell University)|Nov 22, 2019

Advanced Data Storage Technologies参考文献 63被引用数 30

ひとこと要約

Leapは、RDMAベースのメモリ非統合システムにおけるリモートメモリアクセスのカーネルレベルのプリフェッチングソリューションです。オンラインの多数決ベースのプリフェッチングアルゴリズムと、軽量で隔離されたデータパスを採用し、リモートページアクセスの遅延を最大104.04倍（中央値）および22.62倍（末尾）まで低減することで、最新のソリューションと比較してアプリケーションのパフォーマンスを最大10.16倍まで向上させます。

ABSTRACT

Memory disaggregation over RDMA can improve the performance of memory-constrained applications by replacing disk swapping with remote memory accesses. However, state-of-the-art memory disaggregation solutions still use data path components designed for slow disks. As a result, applications experience remote memory access latency significantly higher than that of the underlying low-latency network, which itself is too high for many applications. In this paper, we propose Leap, a prefetching solution for remote memory accesses due to memory disaggregation. At its core, Leap employs an online, majority-based prefetching algorithm, which increases the page cache hit rate. We complement it with a lightweight and efficient data path in the kernel that isolates each application's data path to the disaggregated memory and mitigates latency bottlenecks arising from legacy throughput-optimizing operations. Integration of Leap in the Linux kernel improves the median and tail remote page access latencies of memory-bound applications by up to 104.04x and 22.62x, respectively, over the default data path. This leads to up to 10.16x performance improvements for applications using disaggregated memory in comparison to the state-of-the-art solutions.

研究の動機と目的

• RDMAベースのメモリ非統合システムにおける高いリモートメモリアクセス遅延を解決すること。これは、下位のネットワーク遅延を上回っており、アプリケーションパフォーマンスを制限する要因となっている。
• 従来のソリューションが遅延の低いネットワークに最適化されていない、遅いディスク向けに設計されたデータパスコンponentを再利用しているため、性能が最適でない問題を克服すること。
• リモートメモリ環境におけるページキャッシュヒット率を向上させ、繰り返し発生するリモートアクセスを減らすプリフェッチングメカニズムを設計すること。
• レガシーなスループット最適化手法に起因する遅延ボトルネックを排除するため、アプリケーションを隔離した軽量なカーネルデータパスを設計すること。
• 既存の最先端のアプローチと比較して、非統合メモリを用いたメモリバウンドアプリケーションにおける顕著なパフォーマンス向上を達成すること。

提案手法

• Leapは、リアルタイムで観測されたアクセスパターンに基づいて、リモートメモリページを予測してフェッチするオンラインで多数決ベースのプリフェッチングアルゴリズムを採用している。
• システムは、カーネル内での各アプリケーションのデータパスを非統合メモリに対して隔離することで、干渉を防ぎ、共有パス処理に起因する遅延を低減している。
• レガシーなスループット最適化メカニズムに起因するオーバーヘッドを最小限に抑えるために、軽量なカーネルレベルのデータパスを設計している。
• プリフェッチングアルゴリズムは継続的かつ適応的に動作し、アクセス頻度と局所性パターンを用いて、次にアクセスされると予想されるページを優先順位付けしている。
• LeapはLinuxカーネルに直接統合されており、アプリケーションの変更なしにシームレスな展開と低レベルのシステム連携を可能としている。
• プリフェッチング論理とデータパスを共同設計することで、プリフェッチングがメモリアクセスの重要なパスで競合や遅延を増加させないよう保証している。

実験結果

リサーチクエスチョン

• RQ1 オンラインで多数決ベースのプリフェッチングは、RDMAベースのメモリ非統合システムにおけるリモートメモリアクセス遅延をどの程度低減できるか？
• RQ2 カーネル内でのアプリケーションデータパスの隔離は、リモートメモリアクセス遅延とパフォーマンス隔離にどのような影響を与えるか？
• RQ3 レガシーなディスク最適化データパスを、軽量で低遅延のデータパスに置き換えることで、リモートメモリシステムでどの程度のパフォーマンス向上が達成できるか？
• RQ4 Leapは、中央値および末尾遅延の低減という観点で、最新のメモリ非統合ソリューションと比較してどの程度優れているか？
• RQ5 Leapを用いたメモリバウンドアプリケーションにおけるエンドツーエンドのパフォーマンス向上は、既存のソリューションと比較してどの程度か？

主な発見

• Leapは、メモリ非統合システムにおけるデフォルトのカーネルデータパスと比較して、リモートページアクセスの中央値遅延を最大104.04倍まで低減した。
• Leapは、末尾（99百分位）のリモートページアクセス遅延を最大22.62倍まで低減し、遅延に敏感なワークロードの応答性を顕著に向上させた。
• Leapを採用したアプリケーションは、最新のメモリ非統合ソリューションと比較して最大10.16倍の高いパフォーマンスを達成した。
• LinuxカーネルへのLeap統合により、データパスにおけるレガシーなスループット最適化処理に起因する遅延ボトルネックが効果的に緩和された。
• オンライン多数決ベースのプリフェッチングアルゴリズムは、ページキャッシュヒット率を効果的に向上させ、不要なリモートメモリアクセスを削減した。
• 隔離されたデータパス設計により、アプリケーション固有のメモリアクセスパターンが互いに干渉しなくなり、予測可能性とパフォーマンスが向上した。