[论文解读] Canvas: Isolated and Adaptive Swapping for Multi-Applications on Remote Memory

Chenxi Wang, Yifan Qiao+7 more|arXiv (Cornell University)|Mar 17, 2022

Cloud Computing and Resource Management被引用 6

一句话总结

本文提出 \tool，一种新型交换系统，通过在多个远程内存应用之间隔离交换资源（如交换分区、缓存和RDMA带宽），消除性能干扰。通过支持应用特定的优化技术，如自适应条目分配、语义感知预取和二维RDMA调度，\tool 降低了性能波动，并在联合运行的工作负载中相比共享交换系统实现了最高6倍的加速。

ABSTRACT

Remote memory techniques for datacenter applications have recently gained a great deal of popularity. Existing remote memory techniques focus on the efficiency of a single application setting only. However, when multiple applications co-run on a remote-memory system, significant interference could occur, resulting in unexpected slowdowns even if the same amounts of physical resources are granted to each application. This slowdown stems from massive sharing in applications' swap data paths. Canvas is a redesigned swap system that fully isolates swap paths for remote-memory applications. Canvas allows each application to possess its dedicated swap partition, swap cache, prefetcher, and RDMA bandwidth. Swap isolation lays a foundation for adaptive optimization techniques based on each application's own access patterns and needs. We develop three such techniques: (1) adaptive swap entry allocation, (2) semantics-aware prefetching, and (3) two-dimensional RDMA scheduling. A thorough evaluation with a set of widely-deployed applications demonstrates that Canvas minimizes performance variation and dramatically reduces performance degradation.

研究动机与目标

• 解决多应用远程内存系统中因共享交换资源导致的严重性能干扰问题。
• 识别现有交换系统因跨应用干扰而存在的锁竞争、RDMA使用失控和预取效率低下等问题。
• 设计端到端的隔离机制，对交换缓存、交换分区和RDMA带宽进行隔离，以支持应用特定的优化。
• 开发针对各应用访问模式和资源需求量身定制的自适应优化技术。
• 证明通过资源隔离与自适应优化，可显著减少远程内存系统中联合运行工作负载的性能退化。

提出的方法

• 重新设计内核交换子系统，为每个应用分配专用的交换分区、交换缓存和RDMA带宽。
• 实现应用级交换条目分配，并通过基于应用的计数机制减少锁竞争。
• 引入两级预取器，结合底层访问模式检测与语义分析，以提高预取准确性。
• 设计二维RDMA调度器，根据时间敏感性将需求请求与预取请求分离并优先排序。
• 集成水平调度机制，通过优先考虑时效性而非公平性，降低异步预取请求的延迟。
• 利用cgroup-based资源计数机制强制实施隔离，并支持基于应用感知的优化决策。

实验结果

研究问题

• RQ1 共享交换资源的使用如何在多应用远程内存系统中引起性能干扰？
• RQ2 共享交换条目分配中的锁竞争在多大程度上降低系统吞吐量和RDMA利用率？
• RQ3 在高吞吐量远程内存环境中，应用特定的预取策略是否能提升预取效果？
• RQ4 RDMA调度如何影响联合运行工作负载中预取的延迟和成功率？
• RQ5 在多样化工作负载中，隔离交换资源并应用自适应优化技术的性能影响如何？

主要发现

• 在相同CPU和本地内存资源下，共享交换系统中联合运行的应用程序因资源竞争导致的最差性能下降达6倍。
• 仅交换条目分配操作在高访问窗口中就消耗高达70%的时间，表明共享系统中存在严重的锁竞争。
• \\tool 中的两级预取器在GraphX-CC上将预取贡献提升10.7%，准确率提升5.5%，主要得益于延迟降低。
• 水平调度将第90百分位预取延迟降低约5%，结合两级预取器后整体性能提升7-12%。
• 隔离与自适应优化的结合显著减少了性能波动，并在多样化工作负载中保持了高RDMA利用率。
• 即使在使用Leap预取器的情况下，水平调度仍可实现高达9倍的延迟降低，证明其在延迟敏感场景中的有效性。