[논문 리뷰] Erasure Coding for Distributed Storage: An Overview

S. B. Balaji, M. Nikhil Krishnan외 4명|arXiv (Cornell University)|2018. 06. 12.

Advanced Data Storage Technologies참고 문헌 151인용 수 5

한 줄 요약

이 종합적 서베이는 분산 스토리지용 에러 복구 코드 기법에 대해 포괄적인 개요를 제공하며, 복구 가능한 코드(RG), 로컬에서 복구 가능한(LR) 코드, 그리고 리드-솔로몬 코드의 고급 복구 방법을 중심으로 다룬다. 주요 진전 사항으로는 최소 대역폭 복구(MBR) 및 최소 스토리지 복구(MSR) 코드를 강조하며, Windows Azure 및 Ceph와 같은 시스템에서의 실용적 구현 사례를 통해 복구 대역폭과 스토리지 오버헤드를 크게 감소시켰음을 보여준다.

ABSTRACT

In a distributed storage system, code symbols are dispersed across space in nodes or storage units as opposed to time. In settings such as that of a large data center, an important consideration is the efficient repair of a failed node. Efficient repair calls for erasure codes that in the face of node failure, are efficient in terms of minimizing the amount of repair data transferred over the network, the amount of data accessed at a helper node as well as the number of helper nodes contacted. Coding theory has evolved to handle these challenges by introducing two new classes of erasure codes, namely regenerating codes and locally recoverable codes as well as by coming up with novel ways to repair the ubiquitous Reed-Solomon code. This survey provides an overview of the efforts in this direction that have taken place over the past decade.

연구 동기 및 목표

• 대규모 분산 스토리지 시스템에서 고장 난 노드를 복구하는 데 있어 전통적인 리드-솔로몬 코드의 비효율성을 해결하기 위해.
• 현대의 에러 복구 코드 기법에서 스토리지 오버헤드, 복구 대역폭, 복구 정도 간의 상호 상충 관계를 분석하기 위해.
• 실세계 시스템인 Windows Azure 및 HDFS와 같은 환경에서 로컬에서 복구 가능한(LR), 복구 가능한(RG), 그리고 LRG 코드와 같은 고급 에러 복구 코드의 실용적 성능과 구현 사례를 평가하기 위해.
• MSR 및 MBR 코드를 포함한 복구 가능한 코드 분야의 이론적 진전 사항을 요약하고, 저서브패킷화 및 최적 액세스를 위한 최적화를 다루기 위해.
• 생산 환경에서의 코드 구현에 대한 실증적 평가를 제시하여, 복제 및 전통적인 에러 복구 코드 대비 비용과 성능 향상을 입증하기 위해.

제안 방법

• 논문은 전통적인 리드-솔로몬 코드에서 복구 가능한 코드(RG)로의 에러 복구 코드 기법의 진화를 서베이하며, 복구 대역폭을 최소화하기 위해 (n,k,d,α,β,B) 매개변수 체계를 사용한다.
• 최소 대역폭 복구(MBR) 및 최소 스토리지 복구(MSR) 코드는 스토리지-복구 대역폭(S-RB) 상호 상충 관계의 극단적 지점으로서 도입된다.
• 피기백킹 프레임워크를 사용하여 복구 대역폭을 감소시킨 MDS 어레이 코드를 구축하며, 히치하이커 시스템과 해시태그 코드를 사례로 제시한다.
• 로컬에서 복구 가능한(LR) 코드는 복구 시 도우미 노드 수를 최소화하기 위해 도입되며, 복구 정도 r이 핵심 매개변수이다.
• 로컬에서 복구 가능한(LRG) 코드는 복구 대역폭과 복구 정도를 동시에 최적화하기 위해 제안된다.
• 실제 구현 사례를 바탕으로 Hadoop, Ceph, Windows Azure에서의 성능 평가를 수행하였으며, 복제 및 전통적인 RS 코드와의 성능 비교를 실시하였다.

실험 결과

연구 질문

• RQ1 어떻게 하면 분산 스토리지 시스템에서 고성능 스토리지 효율성을 유지하면서도 복구 대역폭을 최소화할 수 있는가?
• RQ2 복구 가능한 코드에서 스토리지 오버헤드, 복구 대역폭, 복구 정도 간의 기본적인 상호 상충 관계는 무엇인가?
• RQ3 전통적인 리드-솔로몬 코드에 비해 로컬에서 복구 가능한(LR) 코드는 노드 복구 시 접촉하는 노드 수를 얼마나 줄일 수 있는가?
• RQ4 피기백킹 기반 고급 복구 기법은 리드-솔로몬 코드의 복구 효율성을 어떻게 향상시키는가?
• RQ5 실제 생산 스토리지 시스템에서 클레이, PM-RBT, LRG 코드와 같은 현대적 에러 복구 코드를 도입할 경우의 실세계 성능 및 비용 영향은 무엇인가?

주요 결과

• Windows Azure에서 로컬에서 복구 가능한(LR) 코드를 도입함으로써, [16,12] RS 코드의 경우 스토리지 오버헤드가 1.5에서 (n=18,k=14,r=7) 코드로 1.29로 감소하여 수백만 달러의 운영 비용 절감 효과를 거두었다.
• Azure에서 사용된 (n=16,k=12,r=6) LR 코드는 [9,6] RS 코드 수준의 복구 정도를 달성하여 뚜렷한 복구 효율성 향상을 보였다.
• 피기백킹 기반의 히치하이커 시스템은 HDFS에 성공적으로 구현되었으며, Apache Hadoop에 통합되어 복구 성능 향상을 입증하였다.
• Ceph에 구현된 클레이 코드는 스토리지 오버헤드, 복구 대역폭, 액세스, 서브패킷화 수준에서 최적성을 달성하였으며, Ceph에 벡터 코드 지원이 추가되었다.
• 제품-매트릭스 MSR 코드의 최적 액세스 버전인 PM-RBT 코드는 1/2 전송률 코드로 아마존 EC2에서 양호한 성능을 보였다.
• 용량 최적화된 레이지 복구 기반의 리퀴드 스토리지 시스템은 이론적 한계에 가까이 도달하였으며, MTTDL(데이터 손실 평균 시간) 측면에서 소형 블록 길이 코드보다 뛰어난 성능을 보였다.