[논문 리뷰] Memtrade: A Disaggregated-Memory Marketplace for Public Clouds

Hasan Al Maruf, Yuhong Zhong외 4명|arXiv (Cornell University)|2021. 08. 16.

Cloud Computing and Resource Management참고 문헌 67인용 수 4

한 줄 요약

Memtrade는 공용 클라우드에서 안전하고 구현 가능한 메모리 분리 마켓플레이스를 제공하여, 중개자를 통해 임의의 메모리나 할당되지 않은 메모리를 원격 소비자에게 빌려주도록 하며, 생산자에 대한 성능 저하가 2.1% 미만으로 유지되면서 소비자의 읽기 지연 시간을 최대 2.8배 향상시킨다. 이는 호스트 수준의 수정이나 RDMA 의존 없이도 가능하다.

ABSTRACT

We present Memtrade, the first memory disaggregation system for public clouds. Public clouds introduce a set of unique challenges for resource disaggregation across different tenants, including security, isolation and pricing. Memtrade allows producer virtual machines (VMs) to lease both their unallocated memory and allocated-but-idle application memory to remote consumer VMs for a limited period of time. Memtrade does not require any modifications to host-level system software or support from the cloud provider. It harvests producer memory using an application-aware control loop to form a distributed transient remote memory pool with minimal performance impact; it employs a broker to match producers with consumers while satisfying performance constraints; and it exposes the matched memory to consumers as a secure KV cache. Our evaluation using real-world cluster traces shows that Memtrade provides significant performance benefit for consumers (improving average read latency up to 2.8x) while preserving confidentiality and integrity, with little impact on producer applications (degrading performance by less than 2.1%).

연구 동기 및 목표

• 공용 클라우드에서 할당된 메모리의 60%까지가 비활성 상태로 남아 있는 문제를 해결하기 위해, 다중 테넌트 환경에서 동적으로 안전하게 여유 메모리를 공유할 수 있도록 하는 것.
• 호스트 소프트웨어나 하이퍼바이저의 수정 없이도 작동하는 시스템을 설계하여, 기존 공용 클라우드 인fra에 즉각적으로 도입할 수 있도록 하는 것.
• 생산자가 여유 메모리를 빌려주도록 유인하고, 소비자가 스폰지 인스턴스보다 저렴한 비용으로 빌릴 수 있도록 하는 마켓 기반 모델을 제공하여 자원 효율성을 높이는 것.
• 강력한 보안과 성능 격리 보장을 통해 데이터 泄露를 방지하고, 예상치 못한 메모리 수요 급증 상황에서도 낮은 지연 시간을 유지하는 것.
• 성능 제약을 고려하면서도 수익과 거래량을 최적화하는 중개자를 통해 생산자와 소비자를 효율적으로 매칭하는 것.

제안 방법

• Memtrade는 커널이나 하이퍼바이저 수정 없이도 응용 프로그램 수준의 메모리 접근 빈도를 감지하는 응용 프로그램 인식 제어 루프를 사용하여 생산자 VM의 할당되지 않은 메모리와 비활성 메모리를 수확한다.
• 신뢰할 수 있는 중개자를 통해 가용성, 성능 제약 및 가격을 기반으로 생산자와 소비자를 매칭하여 안전하고 일시적인 원격 메모리 풀을 구현한다.
• 수확된 메모리는 원격 메모리 접근 프로토콜을 사용하여 보안 키-값 캐시로 소비자에게 노출되며, 필요에 따라 자동으로 내보내지고 회수된다.
• 시장 조건에 따라 동적으로 조정되는 가격 모델을 사용하며, 지역 가격 조정을 통해 평균 3.5% 이내의 편차로 최적 가격에 수렴한다.
• 생산자에 대한 성능 영향을 최소화하는 경량이고 투명한 메모리 수확 메커니즘을 구현하였으며, 평가 결과에서 2.1% 미만의 저하가 관찰되었다.
• 중개자는 타격 확률을 모델링하고 메모리 할당을 동적으로 조정하여 일관성과 가용성 보장을 실현하며, 소비자 성능을 유지한다.

실험 결과

연구 질문

• RQ1 호스트 수준의 소프트웨어 수정이나 RDMA 지원 없이도 공용 클라우드에서 메모리 분리 시스템을 도입할 수 있는가?
• RQ2 다중 테넌트 VM 간의 비활성 및 할당되지 않은 메모리를 어떻게 효율적으로 수확하고 원격 소비에 이용할 수 있으며, 성능에 미치는 영향을 최소화할 수 있는가?
• RQ3 어떤 마켓 메커니즘이 생산자가 메모리를 빌려주도록 효과적으로 유인하고, 소비자가 빌려쓰도록 하면서도 성능과 보안을 확보할 수 있는가?
• RQ4 동적으로 가변적인 메모리 가용성과 잠재적인 내보내기 상황에도 불구하고 소비자에게 높은 성능과 낮은 지연 시간을 유지할 수 있는가?
• RQ5 기존의 스폰지 인스턴스와 비교해 수익과 이용률을 극대화하고 소비자 비용을 최소화하는 데 가장 효과적인 가격 전략은 무엇인가?

주요 결과

• Memtrade는 소비자 평균 읽기 지연 시간을 로컬 메모리 접근 대비 최대 2.8배 향상시켜 메모리 집약적 워크로드의 성능을 크게 향상시켰다.
• 생산자 성능은 평균 2.1% 이하로 저하되었으며, 메모리 수확 및 원격 접근에 의한 영향이 미미함을 입증했다.
• Google 트레이스를 사용한 시뮬레이션에서 클러스터 전체 메모리 활용률이 56.8%에서 97.9%로 상승하여 자원 활용의 높은 효율성을 보였다.
• Memtrade를 사용할 경우 로컬 캐싱 대비 소비자 히트 비율이 상대적으로 18.2% 향상되어 애플리케이션 성능이 향상되었다.
• Memtrade를 통해 추가 메모리를 빌리는 평균 비용은 스폰지 인스턴스 대비 82.1% 감소하여 매우 경제적인 대안임을 입증했다.
• 동적 가격 모델은 시뮬레이션에서 최적 가격에 평균 3.5% 이내의 편차로 수렴하여 근사 최적의 성능을 달성했다.