[논문 리뷰] Canvas: Isolated and Adaptive Swapping for Multi-Applications on Remote Memory

Chenxi Wang, Yifan Qiao외 7명|arXiv (Cornell University)|2022. 03. 17.

Cloud Computing and Resource Management인용 수 6

한 줄 요약

이 논문은 ool을 제안하며, 이는 복수의 원격 메모리 애플리케이션 간에 스왑 리소스—예를 들어 스왑 파artition, 캐시, RDMA 대역폭—을 격리하여 성능 간섭을 제거하는 새로운 스왑 시스템이다. 응용 프로그램 특화 최적화 기법인 적응형 엔트리 할당, 의미론적 인지 기반 프리패칭, 이중 차원 RDMA 스케줄링을 통해 ool은 성능 변동을 감소시키고, 공유 스왑 시스템 대비 공동 실행 워크로드에서 최대 6배의 성능 향상을 달성한다.

ABSTRACT

Remote memory techniques for datacenter applications have recently gained a great deal of popularity. Existing remote memory techniques focus on the efficiency of a single application setting only. However, when multiple applications co-run on a remote-memory system, significant interference could occur, resulting in unexpected slowdowns even if the same amounts of physical resources are granted to each application. This slowdown stems from massive sharing in applications' swap data paths. Canvas is a redesigned swap system that fully isolates swap paths for remote-memory applications. Canvas allows each application to possess its dedicated swap partition, swap cache, prefetcher, and RDMA bandwidth. Swap isolation lays a foundation for adaptive optimization techniques based on each application's own access patterns and needs. We develop three such techniques: (1) adaptive swap entry allocation, (2) semantics-aware prefetching, and (3) two-dimensional RDMA scheduling. A thorough evaluation with a set of widely-deployed applications demonstrates that Canvas minimizes performance variation and dramatically reduces performance degradation.

연구 동기 및 목표

• 다중 애플리케이션 원격 메모리 시스템에서 공유 스왑 리소스로 인한 심각한 성능 간섭을 해결한다.
• 기존 스왑 시스템이 응용 프로그램 간 간섭으로 인해 락 경쟁, 통제되지 않은 RDMA 사용, 비효율적 프리패칭 문제를 야기함을 규명한다.
• 스왑 캐시, 스왑 파artition, RDMA 대역폭에 대한 통합 격리 메커니즘을 설계하여 응용 프로그램 특화 최적화를 가능하게 한다.
• 각 응용 프로그램의 액세스 패턴과 리소스 요구 사항에 맞춘 적응형 최적화 기법을 개발한다.
• 격리된 스왑과 적응형 최적화가 원격 메모리 시스템에서 공동 실행 워크로드의 성능 저하를 크게 감소시킴을 입증한다.

제안 방법

• 각 응용 프로그램별로 전용 스왑 파artition, 스왑 캐시, RDMA 대역폭를 할당하기 위해 커널 스왑 서브시스템을 재설계한다.
• 잠금 경쟁을 줄이기 위해 응용 프로그램 수준의 스왑 엔트리 할당과 응용 프로그램 별 회계 기능을 구현한다.
• 저수준 액세스 패턴 탐지와 의미론적 분석을 결합한 이중 계층 프리패처를 도입하여 프리패칭 정확도를 향상시킨다.
• 요청의 시간 민감도에 따라 수요 기반 및 프리패칭 요청을 분리하고 우선순위를 부여하는 이중 차원 RDMA 스케줄러를 설계한다.
• 비동기 프리패칭 요청의 지연을 줄이기 위해 수평 스케줄링을 통합하여 공정성보다 시기 적절성을 우선시한다.
• 격리와 응용 프로그램 인식 최적화 결정을 가능하게 하기 위해 cgroup 기반 리소스 회계를 활용한다.

실험 결과

연구 질문

• RQ1 공유 스왑 리소스 사용이 다중 애플리케이션 원격 메모리 시스템에서 성능 간섭을 유발하는 방식은 무엇인가?
• RQ2 공유 스왑 엔트리 할당에서 발생하는 락 경쟁이 시스템 스루풋과 RDMA 활용도에 얼마나 심각하게 악영향을 미치는가?
• RQ3 응용 프로그램 특화 프리패칭 전략이 고스루풋 원격 메모리 환경에서 효과적으로 작용할 수 있는가?
• RQ4 RDMA 스케줄링이 공동 실행 워크로드에서 프리패칭의 지연과 성공률에 미치는 영향은 어떠한가?
• RQ5 다양한 워크로드에서 스왑 리소스 격리와 적응형 최적화를 적용했을 때 성능에 미치는 영향는 어떠한가?

주요 결과

• 동일한 CPU와 로컬 메모리 자원을 사용할 때, 공유 스왑 시스템에서 실행되는 응용 프로그램은 리소스 경쟁으로 인해 최대 6배의 속도 저하를 경험한다.
• 스왑 엔트리 할당만으로도 고액세스 윈도우에서 최대 70%의 시간을 소비함으로써 공유 시스템에서 심각한 락 경쟁이 발생하고 있음을 시사한다.
• \tool의 이중 계층 프리패처는 GraphX-CC에서 프리패칭 기여도를 10.7% 향상시키고 정확도를 5.5% 향상시켜 지연 감소로 이어진다.
• 수평 스케줄링은 90번째 백분위수 프리패칭 지연을 약 5% 감소시켜 이중 계층 프리패처와 조합했을 때 총 성능 향상 7-12%를 달성한다.
• 격리와 적응형 최적화의 조합은 다양한 워크로드에서 성능 변동을 감소시키고 높은 RDMA 활용도를 유지한다.
• Leap 프리패처를 사용할 경우에도 수평 스케줄링은 최대 9배의 지연 감소를 달성하여 고지연 민감도 시나리오에서의 효과성을 입증한다.