[논문 리뷰] RepNet: Cutting Tail Latency in Data Center Networks with Flow Replication

Shuhao Liu, Wei Bai외 3명|arXiv (Cornell University)|2014. 07. 04.

Cloud Computing and Resource Management참고 문헌 26인용 수 5

한 줄 요약

RepNet은 데이터 센터 네트워크에서 꼬리 지연(latency)을 줄이기 위해 응용계층 전송 프로토콜로, 마우스 워크로드를 여러 경로에 복제하여 경로 다양성을 활용한다. 두 가지 메커니즘—RepSYN(단지 SYN 패킷만 복제)과 RepFlow(전체 흐름 복제)—를 사용하며, 기존 인fra구조(예: node.js)에 최소한의 구현 부담으로 고부하 상황에서 꼬리 지연과 응용 프로그램 완료 시간을 50% 이상 감소시킨다.

ABSTRACT

Data center networks need to provide low latency, especially at the tail, as demanded by many interactive applications. To improve tail latency, existing approaches require modifications to switch hardware and/or end-host operating systems, making them difficult to be deployed. We present the design, implementation, and evaluation of RepNet, an application layer transport that can be deployed today. RepNet exploits the fact that only a few paths among many are congested at any moment in the network, and applies simple flow replication to mice flows to opportunistically use the less congested path. RepNet has two designs for flow replication: (1) RepSYN, which only replicates SYN packets and uses the first connection that finishes TCP handshaking for data transmission, and (2) RepFlow which replicates the entire mice flow. We implement RepNet on { t node.js}, one of the most commonly used platforms for networked interactive applications. { t node}'s single threaded event-loop and non-blocking I/O make flow replication highly efficient. Performance evaluation on a real network testbed and in Mininet reveals that RepNet is able to reduce the tail latency of mice flows, as well as application completion times, by more than 50\%.

연구 동기 및 목표

• 데이터 센터 네트워크에서 지속적인 고꼬리 지연 문제, 특히 짧고 상호작용적인 마우스 워크로드에 대해 해결하기 위해.
• 스위치나 종단 호스트 운영체제의 수정 없이도 구현 가능한 응용계층 솔루션을 설계하기 위해.
• 다양한 네트워크 경로를 활용해 흐름을 복제하여 혼잡을 피하기 위해.
• RepSYN과 같은 경량 복제 기법을 통해 성능 오버헤드, 특히 인크래스트 시나리오에서 최소화하기 위해.
• 실제 및 시뮬레이션된 데이터 센터 환경에서 흐름 복제의 효과성을 평가하여, 인프라 개편 없이도 저지연 성능 향상을 입증하기 위해.

제안 방법

• RepNet은 동일한 마우스 워크로드를 동시에 여러 경로를 통해 전송함으로써, 적어도 하나의 경로가 혼잡하지 않을 가능성을 높인다.
• RepSYN은 단지 SYN 패킷만 복제하여 두 번째 TCP 연결을 시작하며, 첫 번째 완료된 손잡이(handshake)를 선택해 데이터 전송을 수행함으로써 오버헤드를 줄인다.
• RepFlow는 흐름의 모든 패킷을 두 개의 TCP 연결을 통해 복제하여 지연에 대한 내성을 높이지만, 대용량 대역폭 소비를 수반한다.
• 프로토콜은 node.js의 단일 스레드 이벤트 루프와 비차단 I/O를 활용해 효율적인 흐름 처리를 지원하는 전송 모듈로 구현된다.
• RepNet은 DCTCP 및 pFabric와 같은 기존 혼잡 제어 기법과 수직적(orthogonal)이므로 공존이 가능하며, 성능 향상 효과가 누적된다.
• 성능 평가는 실제 리프-스파인이 테스트베드와 Mininet에서 실세계 네트워크의 실제 흐름 크기 분포를 반영한 환경에서 수행된다.

실험 결과

연구 질문

• RQ1 응용계층에서의 흐름 복제가 하드웨어나 OS 수준의 변경 없이도 데이터 센터 네트워크의 꼬리 지연을 크게 줄일 수 있는가?
• RQ2 단지 SYN 패킷만 복제하는 RepSYN과 전체 흐름 복제(RepFlow) 간의 지연 감소 및 인크래스트 성능에서의 비교는 어떠한가?
• RQ3 흐름 복제가 버킷 정렬과 같은 상호작용 워크로드의 응용 수준 완료 시간에 얼마나 기여하는가?
• RQ4 왜 RepNet은 저부하 상황에서는 제한된 이점을 보이며, Mininet 컨트롤러 오버헤드가 평가 결과에 어떤 영향을 미치는가?
• RQ5 모의 환경에서 컨트롤러 유도 지연이 존재하더라도, 흐름 복제로 인한 경로 다양성이 측정 가능한 지연 감소를 제공할 수 있는가?

주요 결과

• 실제 테스트베드와 Mininet 평가 모두에서 고부하 상황에서 RepNet은 마우스 워크로드의 꼬리 지연(99번째 백분율)을 50% 이상 감소시킨다.
• RepSYN은 고부하 상황에서 SYN 패킷의 RTT 추정이 여러 경로에서 안정적으로 유지되므로, RepFlow보다 비교적 유사하거나 더 나은 꼬리 지연 감소 효과를 보인다.
• 인크래스트 시나리오에서는 RepSYN이 과도한 패킷 복제로 인한 성능 저하를 방지함으로써 RepFlow를 능가한다.
• 버킷 정렬 워크로드의 응용 수준 완료 시간은 RepFlow 또는 RepSYN을 사용할 경우 약 50% 향상된다.
• 저부하 상황에서는 RepNet이 최소한의 이점 또는 이점이 없으며, 주로 Mininet의 컨트롤러 오버헤드 때문이며, 이는 실제 환경 조건을 반영하지 못한다.
• node.js 기반의 구현은 최소한의 코드 변경으로 즉각적인 구현이 가능하므로, 기존 상호작용 응용 프로그램에 대해 RepNet은 실용적이다.