[논문 리뷰] FAST CLOUD: Pushing the Envelope on Delay Performance of Cloud Storage with Coding

Guanfeng Liang, Ulaş C. Kozat|arXiv (Cornell University)|2013. 01. 07.

Advanced Data Storage Technologies참고 문헌 15인용 수 6

한 줄 요약

이 논문은 erasure coding, 병렬 연결, 동적 코드 레이트 선택을 조합하여 클라우드 스토리지 액세스 지연을 크게 줄이는 부하 적응형 인코딩 및 청크 기반 프레임워크인 FAST CLOUD를 제안한다. 2MB 파일에 대해 단지 1.75배의 스토리지 오버헤드로 99번째 백센트일 지연을 최대 85% 감소시키며, 실시간 백로그 임계값 기반의 큐 인식 적응 전략을 통해 고정 레이트 정책을 능가한다.

ABSTRACT

Our paper presents solutions that can significantly improve the delay performance of putting and retrieving data in and out of cloud storage. We first focus on measuring the delay performance of a very popular cloud storage service Amazon S3. We establish that there is significant randomness in service times for reading and writing small and medium size objects when assigned distinct keys. We further demonstrate that using erasure coding, parallel connections to storage cloud and limited chunking (i.e., dividing the object into a few smaller objects) together pushes the envelope on service time distributions significantly (e.g., 76%, 80%, and 85% reductions in mean, 90th, and 99th percentiles for 2 Mbyte files) at the expense of additional storage (e.g., 1.75x). However, chunking and erasure coding increase the load and hence the queuing delays while reducing the supportable rate region in number of requests per second per node. Thus, in the second part of our paper we focus on analyzing the delay performance when chunking, FEC, and parallel connections are used together. Based on this analysis, we develop load adaptive algorithms that can pick the best code rate on a per request basis by using off-line computed queue backlog thresholds. The solutions work with homogeneous services with fixed object sizes, chunk sizes, operation type (e.g., read or write) as well as heterogeneous services with mixture of object sizes, chunk sizes, and operation types. We also present a simple greedy solution that opportunistically uses idle connections and picks the erasure coding rate accordingly on the fly. Both backlog and greedy solutions support the full rate region and provide best mean delay performance when compared to the best fixed coding rate policy. Our evaluations show that backlog based solutions achieve better delay performance at higher percentile values than the greedy solution.

연구 동기 및 목표

• Amazon S3와 같은 클라우드 스토리지 시스템에서 소형에서 중형 크기의 오브젝트에 대해 높은 변동성과 열악한 지연 성능을 해결하기 위해.
• 청크 기반 처리, erasure coding, 병렬 액세스가 클라우드 스토리지의 큐잉 및 서비스 지연에 미치는 영향을 분석하기 위해.
• 엔드 투 엔드 지연을 최소화하기 위해 큐 백로그 임계값 기반으로 부하에 따라 동적으로 코드 레이트를 선택하는 알고리즘을 설계하기 위해.
• 동일한 오브젝트 크기, 청크 크기, 작업 유형(읽기/쓰기)이 혼합된 동종 및 이종 워크로드를 모두 지원하기 위해.
• 사전 부하 정보 없이도 실시간으로 연결 상태를 활용하고 코드 레이트를 조정하는 탐욕스러운 온라인 적응 전략을 개발하기 위해.

제안 방법

• Erasure coding로 인한 상호의존적 서비스 시간을 고려한 M/G/k 모델의 확장된 큐잉 모델을 제안하며, n개의 인코딩된 조각 중 k개가 완료되면 충분하다.
• 청크 기반 처리, FEC, 다중 서버 환경에서의 평균 지연에 대한 폐쇄형 근사식을 유도하며, 부하에 따라 달라지는 서비스 속도를 고려한다.
• 지연을 최소화하기 위해 사전 계산된 큐 백로그 임계값 기반으로 요청 별 최적의 코드 레이트를 선택하는 부하 적응형 알고리즘을 도입한다.
• 사전 부하 정보 없이도 이용 가능한 유휴 연결 수에 따라 실시간으로 코드 레이트를 동적으로 조정하는 탐욕스러운 온라인 알고리즘을 개발한다.
• 지연과 부하 간의 트레이드오프를 모델링하기 위해 볼록 최적화 프레임워크를 사용하며, 목적 함수에는 큐잉 지연과 서비스 지연이 모두 포함된다.
• 최적의 코드 벡터가 타당 영역 내에 존재할 수 있는 이론적 조건을 확립하여, 적응 정책의 수렴성과 안정성을 보장한다.

실험 결과

연구 질문

• RQ1 Amazon S3와 같은 클라우드 스토리지 시스템에서 erasure coding과 청크 기반 처리, 병렬 액세스가 지연 분포에 미치는 영향은 무엇인가?
• RQ2 코드 레이트와 청크 기반 처리가 클라우드 스토리지 시스템에서 지원 가능한 요청률과 큐잉 지연에 미치는 영향는 어떠한가?
• RQ3 실시간 큐 백로그 기반의 동적 코드 레이트 적응이 고정 레이트 인코딩 정책을 초월해 지연 성능을 향상시킬 수 있는가?
• RQ4 다양한 오브젝트 크기, 청크 크기, 작업 유형이 혼합된 이종 워크로드 환경에서 시스템 성능은 어떠한가?
• RQ5 클라우드 스토리지에서 적응형 erasure coding을 사용할 경우, 스토리지 오버헤드와 지연 감소 간의 트레이드오프는 어떠한가?

주요 결과

• 2MB 파일에 대해 FAST CLOUD는 인코딩되지 않은 스토리지 대비 평균 지연을 76% 감소시키며, 90번째 백센트일 지연은 80%, 99번째 백센트일 지연은 85% 감소시킨다.
• 제안된 부하 적응형 백로그 기반 알고리즘이 탐욕스러운 온라인 방법보다 높은 백센트일 지연에서 더 우수한 지연 성능을 달성한다.
• 고부하 상황에서도 인코딩되지 않은 스토리지의 전체 요청률 영역을 지원하면서도 평균 지연을 낮게 유지한다.
• 청크 기반 처리와 함께 부하 인식 코드 레이트 적응이 이루어지지 않으면, erasure coding은 오히려 부하 증가로 인해 성능을 떨어뜨린다.
• 최적의 코드 레이트는 고정되어 있지 않으며, 현재 부하와 큐 백로그에 따라 달라지며, 고도의 활용도에서 낮은 코드 레이트가 용량을 연장한다.
• 이론적 분석을 통해 좋은 코드 벡터는 성능 기준으로 완전 순서가 정렬되어 있음을 확인하였으며, 이는 실시간에서 효율적인 검색과 적응을 가능하게 한다.