[论文解读] Memtrade: A Disaggregated-Memory Marketplace for Public Clouds

Hasan Al Maruf, Yuhong Zhong+4 more|arXiv (Cornell University)|Aug 16, 2021

Cloud Computing and Resource Management参考文献 67被引用 4

一句话总结

Memtrade 为公共云引入了一个安全、可部署的内存拆分市场，使租户可通过中介将闲置或未分配的内存租借给远程消费者，实现消费者读取延迟最高提升 2.8 倍，同时对生产者性能影响低于 2.1%，且无需主机级修改或依赖 RDMA。

ABSTRACT

We present Memtrade, the first memory disaggregation system for public clouds. Public clouds introduce a set of unique challenges for resource disaggregation across different tenants, including security, isolation and pricing. Memtrade allows producer virtual machines (VMs) to lease both their unallocated memory and allocated-but-idle application memory to remote consumer VMs for a limited period of time. Memtrade does not require any modifications to host-level system software or support from the cloud provider. It harvests producer memory using an application-aware control loop to form a distributed transient remote memory pool with minimal performance impact; it employs a broker to match producers with consumers while satisfying performance constraints; and it exposes the matched memory to consumers as a secure KV cache. Our evaluation using real-world cluster traces shows that Memtrade provides significant performance benefit for consumers (improving average read latency up to 2.8x) while preserving confidentiality and integrity, with little impact on producer applications (degrading performance by less than 2.1%).

研究动机与目标

• 为解决公共云中内存资源利用率低下（高达 60% 的已分配内存处于闲置状态）的问题，通过跨租户实现动态、安全的内存资源共享。
• 设计一种无需修改主机软件或虚拟机监视器的系统，确保可立即部署于现有公共云基础设施。
• 采用基于市场的模式，激励生产者租出闲置内存，使消费者能以低于抢占式实例的成本租用内存，提升资源效率。
• 确保强安全性和性能隔离，防止数据泄露，并在内存需求意外激增时仍保持低延迟。
• 通过尊重性能约束并优化收益与交易量的中介，高效匹配生产者与消费者。

提出的方法

• Memtrade 使用一种应用感知的控制环路，无需内核或虚拟机监视器修改，从生产者虚拟机中收集未分配及闲置的应用层内存。
• 采用可信中介根据可用性、性能约束和定价，将生产者与消费者匹配，建立安全、临时的远程内存池。
• 将收集到的内存通过远程内存访问协议暴露给消费者，作为安全的键值缓存，必要时自动驱逐和回收。
• 系统采用动态定价模型，随市场条件自适应调整，本地价格调优可在平均 3.5% 偏差内收敛至近似最优价格。
• 实现轻量级、透明的内存收集机制，最大限度降低对生产者的性能影响，在评估中观察到的性能下降低于 2.1%。
• 中介通过建模驱逐概率并动态调整内存分配，确保一致性与可用性保证，从而维持消费者性能。

实验结果

研究问题

• RQ1 能否在不需主机级软件修改或 RDMA 支持的前提下，将内存拆分系统部署于公共云？
• RQ2 如何高效地从多租户虚拟机中收集闲置和未分配内存，并以最小性能影响实现远程消费？
• RQ3 何种市场机制能有效激励生产者租出内存，同时使消费者愿意租用，且确保性能与安全？
• RQ4 系统如何在内存可用性动态变化及可能发生驱逐的情况下，仍保持对消费者的高性能与低延迟？
• RQ5 何种定价策略能在最大化收入与利用率的同时，使消费者成本相比现有方案（如抢占式实例）显著降低？

主要发现

• 与本地内存访问相比，Memtrade 将消费者平均读取延迟最高降低 2.8 倍，显著提升内存密集型工作负载的性能。
• 生产者性能平均下降低于 2.1%，表明内存收集与远程访问对性能影响极小。
• 在使用 Google 轨迹的模拟中，集群级内存利用率从 56.8% 提升至 97.9%，表明资源利用效率极高。
• 与本地缓存相比，使用 Memtrade 时消费者缓存命中率相对提升了 18.2%，显著增强应用性能。
• 与使用抢占式实例相比，通过 Memtrade 租用额外内存的平均成本降低了 82.1%，使其成为极具成本效益的替代方案。
• 动态定价机制在模拟中平均仅偏离最优价格 3.5%，达到近似最优性能。