[논문 리뷰] Lossy Bulk Synchronous Parallel Processing Model for Very Large Scale Grids

Elankovan Sundararajan, Aaron Harwood외 1명|ArXiv.org|2006. 11. 20.

Distributed and Parallel Computing Systems참고 문헌 29인용 수 5

한 줄 요약

이 논문은 네트워크 패킷 손실에도 불구하고 고속 통신을 위해 UDP를 활용함으로써 매우 대규모 격자에서 성능을 최적화하는 손실 허용 블록 동기 병렬(Lossy Bulk Synchronous Parallel, L-BSP) 모델을 제안한다. 패킷 손실을 근본적인 매개변수로 모델링하고 패킷의 복수 전송을 통해 저자들은 최적의 복제 수를 사용할 경우, 특히 TCP가 성능을 저하시키는 고대역폭, 고지연 네트워크 환경에서 속도 향상이 크게 향상됨을 입증한다.

ABSTRACT

The performance of a parallel algorithm in a very large scale grid is significantly influenced by the underlying Internet protocols and inter-connectivity. Many grid programming platforms use TCP due to its reliability, usually with some optimizations to reduce its costs. However, TCP does not perform well in a high bandwidth and high delay network environment. On the other hand, UDP is the fastest protocol available because it omits connection setup process, acknowledgments and retransmissions sacrificing reliable transfer. Many new bulk data transfer schemes using UDP for data transmission such as RBUDP, Tsunami, and SABUL have been introduced and shown to have better performance compared to TCP. In this paper, we consider the use of UDP and examine the relationship between packet loss and speedup with respect to the number of grid nodes. Our measurement suggests that packet loss rates between 5%-15% on average are not uncommon between PlanetLab nodes that are widely distributed over the Internet. We show that transmitting multiple copies of same packet produces higher speedup. We show the minimum number of packet duplication required to maximize the possible speedup for a given number of nodes using a BSP based model. Our work demonstrates that by using an appropriate number of packet copies, we can increase performance of parallel program.

연구 동기 및 목표

• 광역망(WAN)에서의 통신 오버헤드로 인한 매우 대규모 격자(VLSG)의 성능 저하 문제를 해결하기 위해.
• 특히 고대역폭, 고지연 환경에서 UDP 기반 통신의 패킷 손실이 병렬 알고리즘 성능에 미치는 영향을 조사하기 위해.
• 패킷 손실 확률을 핵심 매개변수로 포함하는 계산 모델을 개발하여 병렬 프로그램의 최적 설계를 안내하기 위해.
• 주어진 격자 노드 수에 대해 속도 향상을 극대화하기 위한 최소 패킷 복제 수를 결정하기 위해.
• 5~15%의 패킷 손실 조건에서도 경량 신뢰성 메커니즘인 패킷 복제를 통해 UDP의 성능 향상이 가능함을 입증하기 위해.

제안 방법

• 패킷 손실 확률을 근본적인 매개변수로 포함시켜 블록 동기 병렬(BSP) 모델을 확장함으로써 손실 허용 BSP(L-BSP) 모델을 구축한다.
• PlanetLab에서의 실측 측정을 통해 UDP 성능을 특성화하며, 평균 패킷 손실률(5~15%), 왕복 시간, 분산 노드 간 대역폭을 분석한다.
• L-BSP 모델을 사용해 전파, 린 기반 데이터 분포와 같은 기본적인 통신 패턴을 분석한다.
• L-BSP 모델에서의 통신 비용 함수를 유도한다: $ t_{allgather} = [k\alpha + \beta](P-1)\hat{\rho}^k $, 여기서 $ \hat{\rho} $ 는 패킷 손실과 복제를 고려한 요소이다.
• 전송 비용과 손실 복구 오버헤드를 균형 잡는 방식으로 메시지당 최적의 패킷 복제 수를 결정한다.
• 실제 네트워크 조건에서의 성능 향상을 정량화하기 위해 표준 병렬 알고리즘(예: all-gather)을 사용해 모델을 평가한다.

실험 결과

연구 질문

• RQ1 UDP 기반 통신에서의 패킷 손실은 매우 대규모 격자에서 병렬 알고리즘의 성능에 어떻게 영향을 미치는가?
• RQ2 다양한 패킷 손실률 조건에서 속도 향상을 극대화하기 위해 메시지당 최적의 패킷 복제 수는 얼마인가?
• RQ3 고대역폭, 고지연 네트워크에서 UDP에 복제 기법을 적용했을 때 L-BSP 모델이 성능 향상 예측을 얼마나 정확하게 수행할 수 있는가?
• RQ4 패킷 손실을 변수로 도입했을 때 L-BSP 모델의 통신 비용은 전통적 BSP 모델과 비교해 어떻게 다른가?
• RQ5 과도한 오버헤드 없이 패킷 복제를 통해 얼마나 많은 성능 향상이 달성될 수 있는가?

주요 결과

• 광범위하게 분포된 PlanetLab 노드 간에 5%에서 15%의 패킷 손실률이 일반적으로 관찰되며, 이는 UDP 기반 통신에 상당한 영향을 미친다.
• 동일한 패킷을 복수 번 전송할 경우, 특히 대역폭과 지연이 높은 환경에서 전체 속도 향상이 증가한다.
• L-BSP 모델은 전송 비용과 신뢰성 간의 상호 상충 관계를 성공적으로 반영하여 최적의 복제 수준 예측이 가능하다.
• 적절한 수의 패킷 복제를 사용할 경우, 고대역폭, 고지연 환경에서 TCP보다 높은 속도 향상을 달성할 수 있음을 모델이 입증한다.
• 일부 구성에서 효율성이 낮더라도, 대규모 노드 수 조건에서는 의미 있는 속도 향상이 달성될 수 있음을 모델이 입증한다.
• 연구는 UDP가 지능적인 복제 전략과 조합될 경우 성능이 중요한 지연 제약이 있는 병렬 응용 프로그램에서 TCP를 능가할 수 있음을 확인한다.