[논문 리뷰] Codes Can Reduce Queueing Delay in Data Centers

Longbo Huang, Sameer Pawar외 2명|arXiv (Cornell University)|2012. 02. 07.

Advanced Data Storage Technologies참고 문헌 7인용 수 18

한 줄 요약

이 논문은 데이터 센터 스토리지 시스템에서 데이터 검색 지연을 줄이기 위해 선형 네트워크 코딩과 결합된 새로운 스케줄링 알고리즘인 Blocking-one Scheduling (BoS)을 제안한다. 여러 서버에 걸쳐 코딩된 데이터에 대한 유연하고 다중화된 액세스를 가능하게 함으로써, 복제 기반 전략 대비 평균 요청 지연을 최대 17% 감소시키며, 스루풋 손실은 오직 O(1/r²)에 불과하여 낮은 부가 비용으로도 상당한 성능 향상을 보여준다.

ABSTRACT

In this paper, we quantify how much codes can reduce the data retrieval latency in storage systems. By combining a simple linear code with a novel request scheduling algorithm, which we call Blocking-one Scheduling (BoS), we show analytically that it is possible to reduce data retrieval delay by up to 17% over currently popular replication-based strategies. Although in this work we focus on a simplified setting where the storage system stores a single content, the methodology developed can be applied to more general settings with multiple contents. The results also offer insightful guidance to the design of storage systems in data centers and content distribution networks.

연구 동기 및 목표

• 데이터 센터 스토리지 시스템에서 복제 대비 코딩 기반 기술의 지연 감소 잠재력을 정량화하는 것.
• 비 i.i.d. 요청 종속성과 함께 코딩된 시스템의 큐잉 지연을 분석하는 데 도전하는 것.
• 코딩 스토리지 시스템의 정확한 분석 모델링을 가능하게 하는 실용적인 스케줄링 알고리즘을 설계하는 것.
• 코딩이 인기 있는 데이터에 대한 경쟁을 줄이기 위해 서버 활용도에서 다중화 이점을 제공하는지 확인하는 것.
• 데이터 센터 및 콘텐츠 배포 네트워크에서 저지연 스토리지 시스템의 설계 통찰을 제공하는 것.

제안 방법

• 후행 요청이 헤드오브라인 요청 처리가 완료된 후에만 허용되는 새로운 알고리즘인 Blocking-one Scheduling (BoS)을 도입하여 스케줄링 결정의 종속성을 제거한다.
• 큐 길이와 요청 유형(패킷 또는 그룹)을 추적하는 상태를 갖는 연속 시간 마르코프 체인으로 시스템을 모델링한다.
• 평균 지연을 계산하기 위해 안정 상태 확률 π_l, π_l^p, π_l^g에 대한 재귀 방정식을 유도한다.
• 현실적인 데이터 센터 워크로드를 모델링하기 위해 지수 분포 서비스 시간과 포아송 요청 도착을 사용한다.
• 다양한 큐 상태 간의 상태 확률에 대한 재귀 관계를 유도하기 위해 유형 1 및 유형 2 컷을 적용한다.
• 유도된 안정 상태 확률을 사용하여 평균 패킷 및 요청 지연을 계산하며, π_{2r}^p, π_{2r}^g, π_{2r+2m}^p, π_{2r+2m}^g에 대한 명시적 표현을 제공한다.

실험 결과

연구 질문

• RQ1 낮은 부가 비용으로도 코딩이 복제 기반 기술 대비 데이터 센터에서 데이터 검색 지연을 줄일 수 있는가?
• RQ2 코딩 스토리지 시스템에서 지연 감소와 스루풋 손실 사이의 근본적인 트레이드오프는 무엇인가?
• RQ3 성능 저하가 최소화되는 조건에서 코딩 시스템의 분석 모델링을 가능하게 하는 스케줄링 알고리즘은 어떻게 설계할 수 있는가?
• RQ4 코딩이 인기 있는 데이터 오브젝트에 대한 경쟁을 줄이기 위해 다중화 이득을 얼마나 제공하는가?
• RQ5 제안된 Blocking-one Scheduling (BoS) 알고리즘은 전통적인 복제 방식 대비 지연과 스루풋 측면에서 어떻게 비교되는가?

주요 결과

• 제안된 BoS를 적용한 코딩 시스템은 부가 비용 요소 r=2인 분석 사례에서 복제 기반 기술 대비 평균 요청 지연을 최소 7% 감소시킨다.
• 분석된 설정에서 복제 기반 전략 대비 평균 데이터 검색 지연을 최대 17% 감소시킨다.
• BoS로 인한 스루풋 손실은 O(1/r²)이며, r=2일 경우 최대 가능한 스루풋의 96%를 달성한다.
• 분석 결과, 코딩은 복제 기반 방식이 각 패킷을 고정된 두 서버에 제한하는 것과 달리, 네 대의 서버 중 어떤 두 대라도 파일을 서비스할 수 있도록 허용함으로써 다중화 이점을 제공함을 보여준다.
• BoS 하에서 요청 수준 지연과 패킷 수준 지연 간의 기대 지연 차이를 분석적으로 유도하였으며, 이는 모델 정확성을 검증하는 데 기여한다.
• 안정 상태 확률에 대한 유도된 재귀 방정식은 코딩 시스템의 지연 성능를 정확하게 계산할 수 있게 하여 복제 기반 기술과의 정량적 비교를 가능하게 한다.