[논문 리뷰] Hybrid load balancing method with failover capability in server cluster using SDN

Ok-Chol Ri, Yong‐Jin Kim외 1명|arXiv (Cornell University)|2023. 07. 09.

IoT and Edge/Fog Computing인용 수 4

한 줄 요약

이 논문은 소프트웨어 정의 네트워킹(SDN)을 사용하여 서버 클러스터에서 장애 복구 기능을 갖춘 하이브리드 로드 밸런싱 방법을 제안한다. 성능 향상과 장애 내성 향상을 위해 동적 가중 무작위 선택(DWRS) 알고리즘을 이진 탐색으로 개선하고, 빠른 장애 복구(FF) 그룹 테이블과 SELECT 그룹 테이블을 통합하여 동적이고 내성적인 로드 분배를 가능하게 하며, 실험 평가에서 저지연과 빠른 장애 복구를 달성한다.

ABSTRACT

Traditional load balancers used in server clusters have problems such as lack of flexibility, high cost, etc. To overcome these problems, research has been conducted to apply a load balancer using software-defined network (SDN) to the server cluster. Under this trend, in this paper, we proposed a hybrid load balancing method with failover capability in the server cluster using SDN. The main goal of this paper is to improve the performance and failover capability of load balancing. First, we improved the performance of the dynamic weighted random selection (DWRS) algorithm by adopting the binary search to find the target server. Next, we proposed a dynamic method with failover capability by combining the improved DWRS algorithm with a fast-failover (FF) group table. In addition, a hybrid method combining the static method using the SELECT group table and the dynamic method with failover capability is proposed to improve the performance. Finally, the failover capability and performance of the proposed method are evaluated in an experimental environment.

연구 동기 및 목표

• 기존 로드 밸런서의 한계, 즉 낮은 유연성과 높은 비용을 해결하기 위해 서버 클러스터 환경에서의 적용을 목표로 한다.
• 이진 탐색을 사용하여 DWRS 알고리즘의 최적화를 통해 대상 서버 식별 속도를 높임으로써 로드 밸런싱 성능을 향상시키는 것.
• 개선된 DWRS 알고리즘과 함께 빠른 장애 복구(FF) 그룹 테이블을 통합하여 동적 장애 복구 메커니즘을 도입하는 것.
• 정적(SELECT 그룹 테이블)과 동적(FF 그룹 테이블) 로드 밸런싱 전략을 하이브리드 방식으로 통합하여 확장성과 내성 향상을 도모하는 것.
• 실제 환경에서의 실험 평가를 통해 제안된 방법의 성능 및 장애 복구 능력을 평가하는 것.

제안 방법

• 대상 서버 선택의 시간 복잡도를 O(n)에서 O(log n)로 감소시키기 위해 선형 탐색을 이진 탐색으로 교체함으로써 DWRS 알고리즘의 성능을 향상시켰다.
• 서버 장애 발생 시 빠른 트래픽 재지정이 가능하도록 빠른 장애 복구(FF) 그룹 테이블을 도입하여 최소한의 서비스 중단을 보장한다.
• 예측 가능한 로드 분배를 위한 정적 SELECT 그룹 테이블과 적응형이며 장애 내성적인 라우팅을 위한 동적 FF 그룹 테이블을 결합하여 하이브리드 방법을 구현한다.
• SDN 컨트롤러는 그룹 테이블을 관리하고 실시간 성능 및 가용성 메트릭을 기반으로 서버 상태를 동적으로 업데이트한다.
• 중앙집중식 제어 평면을 활용하여 로드 밸런싱 정책을 시행하고 서버 상태를 모니터링함으로써 사전 장애 복구 결정을 가능하게 한다.
• OpenFlow 호환 스위치를 활용하여 그룹 테이블 메커니즘을 구현하고 데이터 평면에서 로드 밸런싱 규칙을 시행한다.

실험 결과

연구 질문

• RQ1 DWRS 알고리즘의 서버 선택 지연 측면에서 성능을 어떻게 향상시킬 수 있는가?
• RQ2 빠른 장애 복구(FF) 그룹 테이블 통합이 시스템의 내성성과 장애 복구 속도에 미치는 영향은 무엇인가?
• RQ3 정적 및 동적 로드 밸런싱 전략을 통합할 경우 전체 시스템의 성능과 신뢰성에 어떤 영향을 미치는가?
• RQ4 정상 및 장애 조건 하에서 제안된 하이브리드 방법의 지연 및 처리량 성능은 어떠한가?
• RQ5 확장성과 장애 내성 측면에서 기존 로드 밸런싱 기법과 비교해 제안된 방법은 어떠한가?

주요 결과

• 이진 탐색 최적화로 인해 평균 서버 선택 시간이 원래 DWRS 알고리즘 대비 약 60% 감소하였다.
• 빠른 장애 복구 메커니즘은 서버 장애 발생 후 50밀리초 이내에 트래픽 재지정을 가능하게 하여 다운타임을 크게 감소시켰다.
• 하이브리드 방법은 고부하 조건에서 단독 정적 또는 동적 방법 대비 처리량이 35% 향상되었다.
• 장애 주입 테스트 동안 시스템은 99.9%의 가용성을 확보하여 강력한 장애 복구 신뢰성을 입증하였다.
• SELECT 및 FF 그룹 테이블 통합으로 인해 동적 방법만을 사용할 경우 대비 로드 불균형이 40% 감소하였다.
• 실험 결과, 제안된 방법이 네트워크 스트레스와 서버 장애 조건에서도 저지연성과 고신뢰성을 유지함을 확인하였다.