[논문 리뷰] Randomized Load-balanced Routing for Fat-tree Networks

Suzhen Wang, Jingjing Luo외 2명|arXiv (Cornell University)|2017. 08. 30.

Interconnection Networks and Systems참고 문헌 24인용 수 4

한 줄 요약

이 논문은 D-mod-k를 사용해 결정론적 다운링크 경로 선택을 수행하고, 상향링크 부하 균형을 위해 임계값 기반 이중선택(TTC) 기법을 결합한 분산형, 통신이 없는 라우팅 기법인 동적 랜덤화된 로드 밸런싱(DRB)을 제안한다. DRB는 지역적 임계값 기반 무작위 선택을 통해 상향링크 트래픽을 조정함으로써 경로 충돌을 최소화하고 대역폭 활용도를 높이며, 고전적인 이중선택 방법과 유사한 이론적 보장을 바탕으로 기존 기법들보다 지연과 부하 균형 측면에서 뛰어난 성능을 발휘한다.

ABSTRACT

Fat-tree networks have been widely adopted to High Performance Computing (HPC) clusters and to Data Center Networks (DCN). These parallel systems usually have a large number of servers and hosts, which generate large volumes of highly-volatile traffic. Thus, distributed load-balancing routing design becomes critical to achieve high bandwidth utilization, and low-latency packet delivery. Existing distributed designs rely on remote congestion feedbacks to address congestion, which add overheads to collect and react to network-wide congestion information. In contrast, we propose a simple but effective load-balancing scheme, called Dynamic Randomized load-Balancing (DRB), to achieve network-wide low levels of path collisions through local-link adjustment which is free of communications and cooperations between switches. First, we use D-mod-k path selection scheme to allocate default paths to all source-destination (S-D) pairs in a fat-tree network, guaranteeing low levels of path collision over downlinks for any set of active S-D pairs. Then, we propose Threshold-based Two-Choice (TTC) randomized technique to balance uplink traffic through local uplink adjustment at each switch. We theoretically show that the proposed TTC for the uplink-load balancing in a fat-tree network have a similar performance as the two-choice technique in the area of randomized load balancing. Simulation results show that DRB with TTC technique achieves a significant improvement over many randomized routing schemes for fat-tree networks.

연구 동기 및 목표

• 지속적인 중앙집중식 또는 혼잡도 피드백 기반 로드 밸런싱의 확장성 문제와 고지연 문제를 해결하기 위해.
• 분산형 로드 밸런싱 기법에서 전역 혼잡도 피드백과 스위치 간 협조를 제거하기 위해.
• 지역적이고 분산된 결정만을 사용해 상향링크 및 하향링크 간 트래픽 분포를 균형 잡고 낮은 경로 충돌을 달성하기 위해.
• 최소한의 구현 오버헤드로 HPC, DCN, NoC 환경에 적합한 실용적이고 구현 가능한 라우팅 기법을 설계하기 위해.

제안 방법

• 모든 소스-대상 쌍에 대해 결정론적 기본 경로를 할당하기 위해 D-mod-k 경로 선택을 사용하여 하향링크 경로 충돌을 최소화한다.
• 각 스위치에서 상향링크 트래픽을 균형 잡기 위해 두 개의 무작위로 선택된 상향링크 중 부하가 덜한 것을 선택하는 임계값 기반 이중선택(TTC) 무작위 기법을 적용한다.
• 불필요한 트래픽 재지정을 줄이기 위해 임계값 메커니즘을 도입하여 효율성 향상과 제어 오버헤드 감소를 도모한다.
• 균형 상태에서 시스템의 시간 역성성을 증명하고 큐 동역학을 분석하기 위해 연속 시간 마르코프 체인(CTMC) 모델을 사용한다.
• 이론적 분석을 통해 TTC가 고전적인 이중선택 방법과 유사한 성능을 달성하며, 최대 부하가 Θ(ln ln n / ln 2)로 스케일링됨을 보여준다.
• 재귀 부등식과 지수 하한 bound(g_i ≥ cα^i)를 사용하여 큐 크기가 지수적 이상으로 증가하지 않음을 증명함으로써 안정성을 확보한다.

실험 결과

연구 질문

• RQ1 분산형, 통신이 없는 로드 밸런싱 기법이 피드백 기반 또는 중앙집중식 기법과 유사한 성능을 달성할 수 있는가?
• RQ2 임계값 기반 이중선택(TTC) 기법이 고전적인 이중선택 방법에 비해 부하 균형 효과성과 확장성 측면에서 어떻게 비교되는가?
• RQ3 전역 협조 또는 원격 피드백 없이 TTC를 통한 지역적 상향링크 조정이 효과적으로 트래픽을 균형 잡을 수 있는가?
• RQ4 중요한 트래픽 하중 조건 하에서 제안된 DRB 기법의 이론적 큐 크기 분포 및 안정성 행동은 어떠한가?

주요 결과

• DRB는 결정론적 하향링크 라우팅(D-mod-k)과 TTC를 통한 국지적 상향링크 부하 균형을 조합함으로써 모든 링크에서 경로 충돌 수준을 크게 감소시킨다.
• TTC 기법은 Θ(ln ln n / ln 2)의 최대 부하를 달성하여 고전적인 이중선택 방법과 동일한 성능을 보이며, 근사 최적의 부하 분포를 보장한다.
• 시뮬레이션 결과, DRB는 평균 및 꼬리 지연 측면에서 다수의 랜덤 라우팅 기법들을 능가하며, 특히 고트래픽 하중 조건에서 뛰어난 성능을 보인다.
• 이론적 분석을 통해 큐 크기가 지수적 이상으로 증가하지 않으며, 시간 역성성을 갖는 CTMC 성질 덕분에 중량 트래픽 하중 조건에서도 시스템이 안정됨을 확인하였다.
• 계층 간 균형 상태의 큐 크기 분포는 渐近적으로 동일하고 상호 독립적이며, 이는 모델의 가정과 확장성의 타당성을 검증한다.
• TTC의 임계값 메커니즘이 부하 균형 성능에 영향을 주지 않으면서도 불필요한 트래픽 재지정 작업을 줄여 효율성을 향상시킨다.