[논문 리뷰] Isolating Mice and Elephant in Data Centers

Wenxue Cheng, Fengyuan Ren외 4명|arXiv (Cornell University)|2016. 05. 25.

Cloud Computing and Resource Management참고 문헌 19인용 수 8

한 줄 요약

이 논문은 데이터센터 네트워크에서 지연 민감도가 높은 '쥐' 유량과 대 throughput 민감도가 높은 '코끼리' 유량을 별도의 큐로 분리하여, 점진적(예: PFC) 및 종단 간(예: QCN) 유량 제어를 독립적으로 적용할 수 있도록 제안한다. 시뮬레이션 결과, 이 분리 기법은 쥐 유량의 지연을 최소 30% 향상시키고, 거의 100%의 링크 활용도를 달성하여, 상충하는 혼잡 제어 메커니즘이 초래하는 성능 저하 문제를 해결한다.

ABSTRACT

Data centers traffic is composed by numerous latency-sensitive "mice" flows, which is consisted of only several packets, and a few throughput-sensitive "elephant" flows, which occupy more than 80% of overall load. Generally, the short-lived "mice" flows induce transient congestion and the long-lived "elephant" flows cause persistent congestion. The network congestion is a major performance inhibitor. Conventionally, the hop-by-hop and end-to-end flow control mechanisms are employed to relief transient and persistent congestion, respectively. However, in face of the mixture of elephants and mice, we find the hybrid congestion control scheme including hop-by-hop and end-to-end flow control mechanisms suffers from serious performance impairments. As a step further, our in-depth analysis reveals that the hybrid scheme performs poor at latency of mice and throughput of elephant. Motivated by this understanding, we argue for isolating mice and elephants in different queues, such that the hop-by-hop and end-to-end flow control mechanisms are independently imposed to short-lived and long-lived flows, respectively. Our solution is readily-deployable and compatible with current commodity network devices and can leverage various congestion control mechanisms. Extensive simulations show that our proposal of isolation can simultaneously improve the latency of mice by at least 30% and the link utilization to almost 100%.

연구 동기 및 목표

• 점진적 및 종단 간 유량 제어를 병행 적용할 때, 짧은 수명 주기의 쥐 유량과 장기적인 코끼리 유량을 함께 다중화하는 것이 초래하는 성능 저하를 조사하는 것.
• PFC와 QCN이 공유 큐에서 상호 작용할 때 발생하는 혼합 트래픽 환경에서의 성능 저하의 근본 원인을 규명하는 것.
• 쥐와 코끼리 유량의 유량 제어 메커니즘을 분리하여 지연과 대역폭을 동시에 향상시킬 수 있는 실용적이고 하드웨어 호환성 있는 솔루션을 설계하는 것.
• 쥐와 코끼리 유량을 분리함으로써 점진적 및 종단 간 유량 제어를 각각 최적화하여 적용할 수 있음을 검증하는 것 — 하드웨어 변경 없이도 가능하다.

제안 방법

• 네트워크 스위치에서 쥐와 코끼리 유량을 별도 큐로 분리하여 유량 제어 메커니즘을 분리하는 것.
• 점진적 유량 제어(예: PFC)를 쥐 유량 전용으로 적용하여 일시적 혼잡을 처리하는 것.
• 종단 간 유량 제어(예: QCN)를 코끼리 유량 전용으로 적용하여 지속적 혼잡을 관리하는 것.
• 다양한 트래픽 패턴과 유량 제어 조합에서 성능을 평가하기 위해 광범위한 시뮬레이션을 수행하는 것.
• 하드웨어 수정이나 새로운 프로토콜 도입 없이 기존의 일반적인 네트워크 장비를 활용하는 것.
• 쥐 유량 지연, 코끼리 유량 대역폭, 전체 링크 활용도에 미치는 영향을 평가하는 것.

실험 결과

연구 질문

• RQ1 점진적 및 종단 간 유량 제어를 모두 적용할 때, 쥐와 코끼리 유량이 하나의 큐에 공존할 경우 성능이 어떻게 저하되는가?
• RQ2 공유 큐에서 PFC와 QCN 간의 상호 작용이 쥐와 코끼리 유량 모두의 성능 저하를 유발하는 이유는 무엇인가?
• RQ3 쥐와 코끼리 유량을 별도 큐로 분리하면 점진적 및 종단 간 유량 제어 메커니즘이 상호 간섭을 피할 수 있는가?
• RQ4 큐 분리 기법을 통해 쥐 유량 지연과 링크 활용도 향상에 기대는 성능 향상은 어느 정도 달성 가능한가?
• RQ5 제안된 큐 분리 솔루션은 기존의 일반적인 네트워크 하드웨어에서 수정 없이 구현 가능한가?

주요 결과

• PFC와 QCN 메커니즘이 상호 오염된 혼잡 신호를 발생시켜, 쥐와 코끼리 유량이 하나의 큐에 다중화될 경우 심각한 성능 저하가 발생한다.
• 쥐 유량에는 점진적 유량 제어(PFC)만으로도 충분하고, 코끼리 유량에는 종단 간 유량 제어(QCN)만으로도 충분하여, 병합된 제어 방식이 필요 없음을 확인하였다.
• 쥐와 코끼리 유량을 별도 큐로 분리함으로써, 공유 큐에서의 병합 제어 대비 쥐 유량 지연이 최소 30% 향상된다.
• 큐 분리 기법을 적용하면 링크 활용도가 거의 100%까지 증가하여 하이브리드 제어 방식보다 뚜렷이 뛰어난 성능을 보인다.
• 제안된 솔루션은 일반 스위치에서 쉽게 배포 가능하며, 기존 하드웨어나 프로토콜에 대한 수정이 필요 없다.
• 큐 분리 접근법은 일시적 혼잡 제어와 지속적 혼잡 제어 간의 갈등을 효과적으로 해결하여, 두 유형의 유량 모두 최적의 성능을 달성할 수 있다.