[논문 리뷰] Elmo: Source-Routed Multicast for Cloud Services

Muhammad Shahbaz, Lalith Suresh외 4명|arXiv (Cornell University)|2018. 02. 27.

Software-Defined Networks and 5G참고 문헌 56인용 수 6

한 줄 요약

Elmo는 패킷 헤더에 다중방송 전달 규칙을 직접 인코딩하여 스위치 그룹 테이블 항목이 필요 없도록 함으로써 데이터 센터에서 소스 라우팅 다중방송을 제안한다. 대칭 Clos 토폴로지에 맞는 압축된 헤더 인코딩을 사용하여, 27,000대의 호스트를 가진 데이터 센터에서 최대 100만 개의 다중방송 그룹을 지원하며, 리프 스위치당 평균 1.1K개의 그룹 테이블 항목만 사용하고 이상적인 다중방송 대비 5%의 트래픽 오버헤드로만 구현한다.

ABSTRACT

We present Elmo, a system that addresses the multicast scalability problem in multi-tenant data centers. Modern cloud applications frequently exhibit one-to-many communication patterns and, at the same time, require sub-millisecond latencies and high throughput. IP multicast can achieve these requirements but has control- and data-plane scalability limitations that make it challenging to offer it as a service for hundreds of thousands of tenants, typical of cloud environments. Tenants, therefore, must rely on unicast-based approaches (e.g., application-layer or overlay-based) to support multicast in their applications, imposing overhead on throughput and end host CPU utilization, with higher and unpredictable latencies. Elmo scales network multicast by taking advantage of emerging programmable switches and the unique characteristics of data-center networks; specifically, the symmetric topology and short paths in a data center. Elmo encodes multicast group information inside packets themselves, reducing the need to store the same information in network switches. In a three-tier data-center topology with 27K hosts, Elmo supports a million multicast groups using a 325-byte packet header, requiring as few as 1.1K multicast group-table entries on average in leaf switches, with a traffic overhead as low as 5% over ideal multicast.

연구 동기 및 목표

• 수천 명의 테넌트가 저지연, 고대역폭 다중방송이 필요한 다중 테넌트 데이터 센터에서 IP 다중방송의 확장성 한계를 해결한다.
• 실제로 수천 개의 다중방송 그룹만 지원할 수 있도록 제한하는 스위치 그룹 테이블 용량의 한계를 극복한다.
• 클라우드 애플리케이션의 CPU 부하와 지연을 증가시키는 비효율적인 유니캐스트 기반 오버레이에 의존하지 않도록 한다.
• 응용 프로그램 수정 없이 텔레메트리, 복제, 퍼블리시-서브스크라이브 시스템과 같은 클라우드 워크로드에 대해 네이티브로 라인 레이트 다중방송을 지원한다.
• 프로그래밍 가능한 스위치와 데이터 센터 토폴로지 특성을 활용하여 대규모에서 효율적이고 확장 가능한 다중방송을 달성하는 시스템을 설계한다.

제안 방법

• 스위치 그룹 테이블에 상태를 유지하는 대신, 패킷 헤더에 다중방송 전달 정책(즉, 다중방송 트리)을 직접 인코딩한다.
• 데이터 센터의 대칭적이고 다중 루트 Clos 토폴로지를 활용하여 패킷 헤더에 다중방송 그룹 멤버십을 압축하고 효율적으로 인코딩한다.
• 325바이트의 패킷 헤더를 사용하여 전체 다중방송 트리 정보를 표현함으로써, 27,000대의 호스트를 가진 데이터 센터에서 최대 100만 개의 다중방송 그룹을 지원한다.
• 현대의 프로그래밍 가능한 스위치(예: Barefoot Tofino, Cavium XPliant)와 호환되는 하드웨어 프리미티브를 사용하여 라인 레이트 처리를 보장한다.
• 리프 스위치당 평균 1.1K개의 그룹 테이블 항목으로 줄여 스위치 메모리 사용량을 최소화한다.
• 와일드카드 검색이나 다중 테이블 탐색과 같은 복잡하거나 비표준적인 스위치 동작을 피함으로써 기존 네트워크 인fra구조와의 호환성을 확보한다.

실험 결과

연구 질문

• RQ1 스위치의 전달 상태를 패킷 헤더로 이관함으로써 다중 테넌트 데이터 센터에서 다중방송의 확장성을 크게 향상시킬 수 있는가?
• RQ2 Clos 토폴로지에서 수백만 개의 그룹을 지원하면서도 헤더에 압축된 다중방송 그룹 인코딩을 어떻게 구현할 수 있는가?
• RQ3 소스 라우팅 다중방송 시스템에서 헤더 크기, 스위치 메모리 사용량, 네트워크 성능 간의 상충 관계는 어떠한가?
• RQ4 현대의 프로그래밍 가능한 스위치에서 비표준 또는 고비용 데이터 플레인 동작 없이 소스 라우팅 다중방송을 라인 레이트로 실행할 수 있는가?
• RQ5 클라우드 워크로드에서 유니캐스트 기반 오버레이 대비 소스 라우팅 다중방송이 CPU 오버헤드를 얼마나 줄이고 성능을 향상시킬 수 있는가?

주요 결과

• Elmo는 27,000대의 호스트를 가진 3단계 데이터 센터에서 325바이트 패킷 헤더만으로 최대 100만 개의 다중방송 그룹을 지원한다.
• 시스템은 리프 스위치당 평균 1.1K개의 그룹 테이블 항목으로 줄여 스위치 메모리 요구량을 크게 낮춘다.
• 이deal 다중방송 대비 최소 5%의 트래픽 오버헤드를 기록하여 높은 효율성을 입증한다.
• 프로그래밍 가능한 스위치(예: Tofino, XPliant)에서 라인 레이트로 작동하여 CPU 참가 없이 저지연, 고대역폭 다중방송을 제공한다.
• 응용 프로그램 계층 또는 오버레이 다중방송이 필요 없어지며, 이로 인해 엔드 호스트의 CPU 활용도가 감소하고 응용 프로그램 처리량이 향상된다.
• 이전의 집계 기반 솔루션과 달리 테넌트 간 주소 공간 격리와 네트워크의 바이섹션 대역폭을 완전히 활용한다.