[논문 리뷰] Optimal Repair Layering for Erasure-Coded Data Centers: From Theory to Practice

Yuchong Hu, Xiaolu Li외 5명|arXiv (Cornell University)|2017. 04. 12.

Advanced Data Storage Technologies참고 문헌 53인용 수 11

한 줄 요약

이 논문은 HDFS 구현에서 최신의 재생 코드보다 개선된 노드 복구 및 열악한 읽기 성능을 달성하면서도, 계층적 블록 배치와 이중 재생 코드(DRC)의 두 가닥을 사용하여 크로스랙 복구 트래픽을 최소화하는 실용적인 수리 계층 프레임워크인 DoubleR을 제안한다. 이는 계층적 데이터센터에서의 크로스랙 네트워크 대역폭 병목 현상을 해결한다.

ABSTRACT

Repair performance in hierarchical data centers is often bottlenecked by cross-rack network transfer. Recent theoretical results show that the cross-rack repair traffic can be minimized through repair layering, whose idea is to partition a repair operation into inner-rack and cross-rack layers. However, how repair layering should be implemented and deployed in practice remains an open issue. In this paper, we address this issue by proposing a practical repair layering framework called DoubleR. We design two families of practical double regenerating codes (DRC), which not only minimize the cross-rack repair traffic, but also have several practical properties that improve state-of-the-art regenerating codes. We implement and deploy DoubleR atop Hadoop Distributed File System (HDFS), and show that DoubleR maintains the theoretical guarantees of DRC and improves the repair performance of regenerating codes in both node recovery and degraded read operations.

연구 동기 및 목표

• 계층적 데이터센터에서 제한된 크로스랙 대역폭이 병목 현상이 되는 문제를 해결하기 위해 크로스랙 복구 트래픽을 최소화한다.
• 이론적 수리 계층과 실질적 구현 간 격차를 메우기 위한 목적으로, 에러코드화된 스토리지 시스템에서의 실용적 적용 가능성을 확보한다.
• 이론적으로 최적의 크로스랙 복구 트래픽을 유지하면서도 실제 환경에서의 구현을 지원할 수 있는 실용적인 이중 재생 코드(DRC)를 설계한다.
• 실제 HDFS 환경에서 DRC의 성능을 평가하여 노드 복구 및 열악한 읽기 작업의 성능을 분석한다.
• 최소화된 크로스랙 트래픽와 감소된 랙 수준의 고장 내성 간의 상호 교환 관계를 분석한다.

제안 방법

• 제한된 크로스랙 대역폭에 의존도를 줄이기 위해 수리 과정을 내부 랙 단계와 크로스랙 단계로 분할하여 수리 계층을 도입한다.
• 다수의 블록을 각 랙에 저장하는 계층적 블록 배치를 제안하여, 랙 내에서 국소적인 부분 복구를 가능하게 한다.
• 최소한의 크로스랙 복구 트래픽을 달성하면서도 MDS 성질과 수리 최적성을 유지하는 두 가닥의 이중 재생 코드(DRC)를 설계한다.
• 두 단계 수리 프로세스를 적용한다: 각 랙 내에서 로컬 블록을 사용해 부분 복구를 수행한 후, 부분 결과를 대상 노드로 크로스랙 전송한다.
• 실제 성능 평가 및 이론적 보장을 검증하기 위해 Hadoop Distributed File System(HDFS)에 DoubleR을 구현한다.
• 수치적 분석과 신뢰성 분석을 통해 감소된 랙 수준 고장 내성과 최소화된 크로스랙 트래픽 간의 상호 교환 관계를 정량화한다.

실험 결과

연구 질문

• RQ1 기존의 재생 코드와 비교해 복구 계층 기반 기술이 계층적 데이터센터에서 크로스랙 복구 트래픽을 상당히 줄일 수 있는가?
• RQ2 최소화된 크로스랙 복구 트래픽와 감소된 랙 수준 고장 내성 간의 상호 교환 관계는 어떠한가?
• RQ3 이론적으로 최적의 크로스랙 복구 트래픽을 달성하면서도 효율적인 구현을 지원할 수 있는 실용적인 이중 재생 코드(DRC)를 구성할 수 있는가?
• RQ4 실제 HDFS 환경에서 DoubleR의 성능은 노드 복구 처리량과 열악한 읽기 시간 측면에서 어떻게 나타나는가?
• RQ5 어떤 네트워크 대역폭 조건에서 DRC가 기존의 재생 코드와 RS 코드를 능가하는가?

주요 결과

• DoubleR은 수리 계층과 DRC 설계를 통해 이론적으로 최소한의 크로스랙 복구 트래픽을 달성한다.
• HDFS에서의 프로토타입 구현 결과, DoubleR은 최신의 재생 코드보다 노드 복구 처리량을 향상시키고 열악한 읽기 시간을 감소시켰다.
• DRC의 1번 가닥은 최소한의 크로스랙 복구 트래픽을 달성하기 위해 디스크에서 n−1개의 블록을 읽어야 하며, 이는 MSR 코드의 효율성과 동일하다.
• DRC의 총 복구 트래픽(내부 랙 및 크로스랙 포함)은 MSR 코드보다 높지만, 크로스랙 성분은 최소화되어 크로스랙 대역폭 제약 조건 하에서 최적이다.
• 크로스랙 대역폭이 충분한 경우(예: 2 Gb/s 게이트웨이), DRC의 복구 이점이 감소함을 확인하여, DRC의 성능 향상이 주로 대역폭 제약 조건이 있는 환경에서 두드러진다.
• 신뢰성 분석 결과, 랙 고장 빈도가 낮을 경우 감소된 랙 수준 고장 내성이 허용 가능하며, 이는 향상된 복구 성능를 위해 이 상호 교환 관계를 정당화한다.