[論文レビュー] Memtrade: A Disaggregated-Memory Marketplace for Public Clouds

Hasan Al Maruf, Yuhong Zhong+4 more|arXiv (Cornell University)|Aug 16, 2021

Cloud Computing and Resource Management参考文献 67被引用数 4

ひとこと要約

Memtrade は、ホストレベルの変更や RDMA 依存を必要とせず、公開クラウドにおいて安全で展開可能なメモリ分散マーケットプレイスを提供する。テナントはブローカーを通じて、リモートの消費者に余剰または未割当のメモリを貸し出し可能であり、消費者の読み込み遅延を最大 2.8 倍改善する一方、生産者のパフォーマンス劣化は 2.1% 未満に抑えられる。

ABSTRACT

We present Memtrade, the first memory disaggregation system for public clouds. Public clouds introduce a set of unique challenges for resource disaggregation across different tenants, including security, isolation and pricing. Memtrade allows producer virtual machines (VMs) to lease both their unallocated memory and allocated-but-idle application memory to remote consumer VMs for a limited period of time. Memtrade does not require any modifications to host-level system software or support from the cloud provider. It harvests producer memory using an application-aware control loop to form a distributed transient remote memory pool with minimal performance impact; it employs a broker to match producers with consumers while satisfying performance constraints; and it exposes the matched memory to consumers as a secure KV cache. Our evaluation using real-world cluster traces shows that Memtrade provides significant performance benefit for consumers (improving average read latency up to 2.8x) while preserving confidentiality and integrity, with little impact on producer applications (degrading performance by less than 2.1%).

研究の動機と目的

• 公開クラウドにおけるメモリの未利用を是正するため、最大 60% の割合で未使用のまま放置されている割り当て済みメモリを、複数テナント間で動的に安全に共有することを目的とする。
• ホストソフトウェアやハイパーバイザの変更を一切不要としないシステムを設計し、既存の公開クラウドインfraに即座に展開可能であることを保証すること。
• 生産者が余剰メモリを貸し出すインcentive を与え、消費者がスポットインスタンスよりも低コストでメモリを借りられる市場ベースのモデルを実現し、リソース効率を向上させること。
• 強力なセキュリティとパフォーマンスの隔離を確保し、データ漏洩を防ぎ、予期せぬメモリ需要の急増時でも低遅延を維持すること。
• パフォーマンス制約を尊重しつつ収益と取引量の両方を最適化するブローカーを用いて、生産者と消費者を効率的にマッチングすること。

提案手法

• Memtrade は、カーネルやハイパーバイザの変更なしに、アプリケーションレベルのメモリアクセス頻度を検出するアプリケーション認識制御ループを用いて、生産者VMから未割当および未使用のメモリを収集する。
• 信頼できるブローカーが、利用可能性、パフォーマンス制約、価格を基準に生産者と消費者をマッチングさせ、安全で一時的なリモートメモリプールを構築する。
• 収集されたメモリは、リモートメモリアクセスプロトコルを用いて、セキュアなキーバリューキャッシュとして消費者に公開され、必要に応じて自動的に除外・回収される。
• 市場状況に応じて動的に変化する価格モデルを採用し、ローカル価格チューニングにより、平均して最適価格から 3.5% 以内の偏差で収束する。
• パフォーマンスへの影響を最小限に抑える軽量で透明なメモリ収集メカニズムを実装し、評価では生産者での劣化が 2.1% 未満にとどまっている。
• ブローカーは、除外確率のモデル化と動的なメモリ割り当て調整により、一貫性と可用性の保証を実現し、消費者のパフォーマンスを維持する。

実験結果

リサーチクエスチョン

• RQ1 ホストレベルのソフトウェア変更や RDMA 支援を必要とせず、公開クラウドにメモリ分散システムを展開可能か？
• RQ2 マルチテナントVM間の未使用および未割当メモリを、パフォーマンスへの影響を最小限に抑えつつ、効率的に収集し、リモート利用可能にする方法は何か？
• RQ3 生産者がメモリを貸し出すインセンティブを与え、消費者がそれを借りる市場メカニズムは何か？ その際、パフォーマンスとセキュリティを確保できるか？
• RQ4 動的なメモリ利用可能性や予期せぬ除外が生じる状況下でも、消費者の高パフォーマンスと低遅延をどのように維持できるか？
• RQ5 収益と利用度を最大化し、スポットインスタンスと比較して消費者のコストを最小限に抑える価格戦略は何か？

主な発見

• Memtrade は、ローカルメモリアクセスと比較して、平均して消費者の読み込み遅延を最大 2.8 倍改善し、メモリ集約的ワークロードのパフォーマンスを顕著に向上させる。
• 生産者のパフォーマンス劣化は平均で 2.1% 未満であり、メモリ収集とリモートアクセスによる影響が極めて小さいことが示された。
• Google のトレースを用いたシミュレーションでは、クラスタ全体のメモリ利用率が 56.8% から 97.9% に上昇し、極めて高いリソース利用効率を達成した。
• Memtrade を使用した場合、ローカルキャッシュと比較して、消費者のヒットレートが相対的に 18.2% 向上し、アプリケーションパフォーマンスが向上した。
• Memtrade を通じた追加メモリのレンタルコストは、スポットインスタンスと比較して平均で 82.1% 減少し、非常にコスト効率の高い代替手段となった。
• 動的価格設定メカニズムは、シミュレーションで最適価格から平均して 3.5% 以内の偏差で収束し、ほぼ最適なパフォーマンスを達成した。