[논문 리뷰] Low Latency Datacenter Networking: A Short Survey

Shuhao Liu, Hong Xu외 1명|arXiv (Cornell University)|2013. 12. 12.

Cloud Computing and Resource Management참고 문헌 14인용 수 25

한 줄 요약

이 종합 검토에서는 저지연 데이터센터 네트워킹을 위한 네 가지 핵심 기법을 규명한다: 대기열 길이 감소, 재전송 가속화, 마우스 워크로드 우선순위 부여, 멀티패스 활용. DCTCP, DeTail, RepFlow와 같은 대표적 시스템을 평가하여 평균 및 99번째 백분위수 흐름 완료 시간에서 최대 70% 향상을 보이며, 특히 고부하 환경에서 뚜렷한 성능 향상을 보인다.

ABSTRACT

Datacenters are the cornerstone of the big data infrastructure supporting numerous online services. The demand for interactivity, which significantly impacts user experience and provider revenue, is translated into stringent timing requirements for flows in datacenter networks. Thus low latency networking is becoming a major concern of both industry and academia. We provide a short survey of recent progress made by the networking community for low latency datacenter networks. We propose a taxonomy to categorize existing work based on four main techniques, reducing queue length, accelerating retransmissions, prioritizing mice flows, and exploiting multi-path. Then we review select papers, highlight the principal ideas, and discuss their pros and cons. We also present our perspectives of the research challenges and opportunities, hoping to aspire more future work in this space.

연구 동기 및 목표

• 인터랙티브 애플리케이션, 특히 짧고 지연 민감도가 높은 마우스 워크로드를 위한 증가하는 네트워크 지연 문제를 해결한다.
• 사용자 인식 지연의 주요 결정 요소인 흐름 완료 시간(FCT)을 줄이는 데 기여하는 핵심 연구 기법을 규명하고 분류한다.
• 대기열 길이 감소, 재전송 가속화, 마우스 워크로드 우선순위 부여, 멀티패스 활용이라는 네 가지 핵심 전략을 기반으로 기존 솔루션의 분류 체계를 제공한다.
• 현재 TCP 기반 혼잡 제어가 혼잡 상황에서 마우스 워크로드를 처리하는 데 미치는 한계를 강조하고, 프rotocol 수준의 혁신이 필요하다는 점을 제기한다.
• 미래의 저지연 데이터센터 네트워킹 분야에서의 열린 연구 과제와 기회에 대한 통찰을 제공한다.

제안 방법

• 다음 네 가지 범주로 구성된 분류 체계를 제안한다: 대기열 길이 감소(예: DCTCP, HULL), 재전송 가속화(예: DIBS, FastLane), 마우스 워크로드 우선순위 부여(예: pFabric, DeTail), 멀티패스 활용(예: RepFlow).
• DCTCP와 같은 프로토콜이 ECN 및 동적 윈도우 스케일링을 사용해 대기열 점유율을 줄이고 공정성을 향상시키는 방식을 분석한다.
• DeTail의 크로스 레이어 설계를 기술하여 PFC 일시정지 프레임을 활용해 혼잡한 경로를 피하는, 패킷 단위의 혼잡 기반 라우팅 결정을 가능하게 한다.
• RepFlow의 메커니즘을 설명하여 마우스 워크로드를 여러 경로에 복제함으로써 경로 다양성을 활용하고 꼬리 지연을 감소시키며, 스위치나 엔드호스트 커널의 수정 없이도 기능함을 보여준다.
• RepFlow가 운반 계측에 관계없이 작동하며, 구형 TCP와 DCTCP와 같은 신규 프로토콜 모두와 호환됨을 강조한다.
• 트레이스 기반 시뮬레이션과 대기열 이론을 활용해 다양한 네트워크 부하와 워크로드 크기에서의 성능 향상을 검증한다.

실험 결과

연구 질문

• RQ1 현재 데이터센터 네트워크 설계는 인터랙티브 애플리케이션, 특히 짧은 마우스 워크로드를 위한 저지연 요구 조건을 얼마나 실패하는가?
• RQ2 데이터센터 네트워크에서 높은 흐름 완료 시간(FCT)의 주요 원인은 무엇이며, 평균 FCT와 꼬리 FCT 간에는 어떤 차이가 있는가?
• RQ3 실제 데이터센터 워크로드에서 대기열 길이 감소, 재전송 가속화, 마우스 워크로드 우선순위 부여, 멀티패스 활용이 FCT를 얼마나 줄일 수 있는가?
• RQ4 스위치나 엔드호스트 소프트웨어의 변경 없이도 멀티패스 다양성을 효과적으로 활용해 꼬리 지연을 줄일 수 있는가?
• RQ5 동적 데이터센터 환경에서 응용 프로그램에 대해 예측 가능하고 저지연 네트워크 추상화를 제공하는 데 있어 근본적인 과제는 무엇인가?

주요 결과

• 현재 데이터센터 네트워크에서 평균 흐름 완료 시간(FCT)은 이론적 최소값의 2배에서 3배이며, 혼잡 상황에서는 꼬리 FCT(99번째 백분위수)가 평균보다 10배 이상 초과한다.
• 스위치의 대기열 지연이 고지연의 주요 원인으로 작용하며, 특히 장시간 지속되는 엘레phant 워크로드 뒤에 밀려나는 짧은 마우스 워크로드에 특히 영향을 미친다.
• RepFlow는 마우스 워크로드를 여러 경로에 복제함으로써 모든 테스트 부하에서 평균 및 99번째 백분위수 FCT를 각각 50%~70% 감소시킨다.
• DeTail은 PFC 일시정지 신호를 활용해 혼잡한 경로를 피하는 패킷 단위의 혼잡 인식 라우팅을 가능하게 하여 꼬리 FCT를 감소시킨다.
• DCTCP 및 PDQ와 같은 프로토콜은 ECN 및 대기열 피드백 기반으로 동적으로 혼잡 제어를 조정함으로써 평균 FCT를 감소시키며, 공정성과 반응성을 향상시킨다.
• 이 종합 검토는 평균 및 꼬리 FCT에 대한 통계적 보장을 제공하는 네트워크 추상화의 필수성과 함께, 예측 불가능한 환경에서 응용 프로그램 설계를 단순화할 수 있음을 규명한다.