[논문 리뷰] Flexible Network Bandwidth and Latency Provisioning in the Datacenter

Vimalkumar Jeyakumar, Abdul Kabbani외 2명|arXiv (Cornell University)|2014. 05. 03.

Software-Defined Networks and 5G참고 문헌 25인용 수 4

한 줄 요약

Parley는 다중 노드 서비스 간에 융통성 있고 계층적이며 가중치 기반으로 데이터센터 네트워크 자원을 공유할 수 있도록 하는 서비스 중심의 네트워크 대역폭 및 지연 시간 할당 시스템이다. 전역적 가시성을 갖춘 분산형 대역폭 브로커를 사용하여 머신 및 랙 수준에서 호(HoT) 용량을 동적으로 할당함으로써, 고부하 상황에서도 예측 가능한 낮은 꼬리 지연 시간을 달성한다. 10Gb/s 링크를 갖춘 90대 머신 테스트베드에서 이를 입증하였다.

ABSTRACT

Predictably sharing the network is critical to achieving high utilization in the datacenter. Past work has focussed on providing bandwidth to endpoints, but often we want to allocate resources among multi-node services. In this paper, we present Parley, which provides service-centric minimum bandwidth guarantees, which can be composed hierarchically. Parley also supports service-centric weighted sharing of bandwidth in excess of these guarantees. Further, we show how to configure these policies so services can get low latencies even at high network load. We evaluate Parley on a multi-tiered oversubscribed network connecting 90 machines, each with a 10Gb/s network interface, and demonstrate that Parley is able to meet its goals.

연구 동기 및 목표

• 다양한 성능 요구 사항을 가진 애플리케이션이 존재하는 다중 임차 환경에서 유연하고 서비스 수준의 대역폭 및 지연 시간 보장을 필요로 하는 문제를 해결한다.
• 이전 시스템이 단지 VM 또는 임차 단위의 대역폭 보장을 제공하여 서비스 간 계층적 또는 가중치 기반 공유를 지원하지 못하는 한계를 극복한다.
• 전역 대역폭 가시성을 통해 피크 네트워크 활용도를 동적으로 제어함으로써 지연 시간에 민감한 서비스에 대해 예측 가능한 낮은 꼬리 지연 시간을 달성한다.
• 전역 공유 목표를 로컬 랙 및 머신 수준의 할당 문제로 분해할 수 있는 확장 가능한 분산 런타임 시스템을 설계한다.
• 고정된 대역폭 보장뿐만 아니라 실제 트래픽 패턴에 적응하는 동적이고 가중치 기반의 공유 정책을 지원하여 업링크 대역폭을 과도하게 할당하지 않는다.

제안 방법

• 서비스가 엔드포인트로 구성되며, 머신, 랙, 패브릭 수준에서 대역폭 할당이 중첩되는 계층적 공유 모델을 도입한다.
• 머신 수준, 랙 수준, 패브릭 수준의 활용도 메트릭을 기반으로 주기적으로 각 VM의 호(HoT) 용량을 조정하는 분산형 '대역폭 브로커'를 활용한다.
• 데이터플레인에서 종단 간 혼잡 제어를 적용하여 호 용량을 강제로 준수함으로써, 개별 흐름 상태에 의존하지 않고도 예측 가능한 성능을 확보한다.
• 랙 수준에서 가중치 기반 최소 최대 공정성 모델을 적용하여 VM 간에 남은 대역폭을 상대적 가중치와 현재 활용도에 따라 공유한다.
• 서비스의 꼬리 지연 시간을 자신의 대역폭 할당과 함께 공재되는 서비스의 할당에 기반해 예측하는 트래픽 모델을 활용하여 사전에 자원 계획을 수립한다.
• 기본 혼잡 제어 메커니즘을 유지하면서 오픈소스 EyeQ 시스템에 전역 가시성과 동적 할당 기능을 추가한다.

실험 결과

연구 질문

• RQ1 다중 노드 서비스 간에 단지 개별 엔드포인트나 VM이 아닌, 네트워크 대역폭을 어떻게 융통성 있게 공유할 수 있는가?
• RQ2 확장 가능한 분산 방식으로 데이터센터 네트워크 전반에 걸쳐 계층적이고 가중치 기반의 대역폭 공유 정책을 효과적으로 구현할 수 있는가?
• RQ3 지연 시간에 민감한 서비스가 대역폭 집약적인 워크로드와 함께 공재될 때 고부하 상황에서도 예측 가능한 낮은 꼬리 지연 시간을 달성할 수 있는가?
• RQ4 동적 대역폭 할당이 RPC 완료 시간에 미치는 영향은 무엇이며, 공정성과 지연 시간을 균형 잡기 위해 레이트 제어는 어떻게 조정할 수 있는가?
• RQ5 중앙 집중식 정책은 어느 정도까지 로컬 분산 결정으로 분해될 수 있으며, 여전히 전역 공정성과 성능 보장을 유지할 수 있는가?

주요 결과

• Parley는 계층적 대역폭 공유를 성공적으로 지원하여 DFS와 같은 서비스에 6Gb/s에서 8Gb/s 사이의 대역폭를 할당할 수 있었으며, 비지불 VM들은 랙 단위로 가중치 기반 최소 최대 공정성 방식으로 최대 1Gb/s씩 공유하였다.
• 고부하 상황에서도 예측 가능한 꼬리 지연 시간을 유지하였으며, 대부분의 구성에서 99번째 백분위수 지연 시간이 10ms 이하였고, 랙 브로커와 같은 핵심 구성 요소가 실패할 경우에만 급격한 증가가 발생하였다.
• 90대 머신과 10Gb/s 인터페이스를 사용한 실험에서 Parley는 업링크 대역폭을 과도하게 할당하지 않으면서도 높은 네트워크 활용도를 달성하였으며, 고정 할당 방식인 EyeQ보다 뛰어난 성능을 보였다.
• Parley의 동적 할당은 비활성 또는 경량 트래픽을 가진 서비스에서 발생하는 대역폭 낭비를 방지하여 고정된 VM 기반 대역폭 제한 대비 자원을 효율적으로 사용할 수 있도록 하였다.
• 시스템은 랙 업링크에서 피크 활용도를 제어함으로써 꼬리 지연 시간을 제한할 수 있음을 입증하였으며, 이는 여러 서비스가 대역폭을 경쟁할 경우에도 성립한다.
• 정확한 레이트 제한과 RPC 완료 시간 사이에 상충 관계가 존재한다: 과도한 레이트 제어는 완료 시간을 두 배로 늘릴 수 있으므로, 지연 시간에 민감한 워크로드의 경우 구성 가능한 버스트 크기가 필수적이다.