[논문 리뷰] BlobSeer: How to Enable Efficient Versioning for Large Object Storage under Heavy Access Concurrency

Bogdan Nicolae, Gabriel Antoniu외 1명|ArXiv.org|2009. 05. 07.

Advanced Data Storage Technologies참고 문헌 11인용 수 5

한 줄 요약

BlobSeer는 분산 해시 테이블(DHT) 기반의 분산 세그먼트 트리를 메타데이터 관리에 사용하여, 고도로 동시성 있는 P2P 환경에서 대규모 바이너리 오브젝트(blob)에 대해 확장성 있고 분산된 버전 관리 기법을 제안한다. 기존 오브젝트를 수정하는 대신 새로운 데이터 페이지를 생성하고 메타데이터를 연결하여 버전화된 뷰를 유지함으로써, 최소한의 메타데이터 오버헤드로 높은 처리량을 달성하며, 175개 노드와 64 GB의 오브젝트 크기에서도 높은 동시 접근 환경에서 안정적인 대역폭 성능을 보여준다.

ABSTRACT

To accommodate the needs of large-scale distributed P2P systems, scalable data management strategies are required, allowing applications to efficiently cope with continuously growing, highly dis tributed data. This paper addresses the problem of efficiently stor ing and accessing very large binary data objects (blobs). It proposesan efficient versioning scheme allowing a large number of clients to concurrently read, write and append data to huge blobs that are fragmented and distributed at a very large scale. Scalability under heavy concurrency is achieved thanks to an original metadata scheme, based on a distributed segment tree built on top of a Distributed Hash Table (DHT). Our approach has been implemented and experimented within our BlobSeer prototype on the Grid'5000 testbed, using up to 175 nodes.

연구 동기 및 목표

• 높은 동시성과 분산된 P2P 시스템에서 매우 크고 수정 가능한 바이너리 오브젝트(blob)를 효율적으로 관리하고 버전 관리를 하는 도전 과제를 해결한다.
• 일반적인 스토리지 노드에 분할된 거대한 오브젝트에 대해 동시 읽기, 쓰기, 추가 작업을 지원한다.
• 원자성과 버전 일致성을 유지하면서도, 동시 접근의 높은 동시성에 대비해 메타데이터 오버헤드를 최소화하고 높은 성능을 확보한다.
• 새로운 데이터 페이지만 저장하고 메타데이터를 연결하여 과거 및 현재 오브젝트 상태를 표현함으로써 공간 효율적인 버전 관리를 가능하게 한다.
• 데이터 크기와 동시 클라이언트 수에 비례하여 확장 가능한 탈중앙화된 메타데이터 아키텍처를 설계한다.

제안 방법

• 대규모 오브젝트를 고정 크기의 페이지로 분할하고, P2P 네트워크 내의 일반 장비 제공자들 사이에 분산 배포한다.
• 분산 해시 테이블(DHT) 위에 구축된 분산 세그먼트 트리 데이터 구조를 사용하여 버전화된 액세스를 위한 메타데이터를 관리한다.
• 메타데이터 저장소와 액세스를 탈중앙화하여 병목 현상을 방지하고, 동시성과 동기화 없이도 작동할 수 있도록 한다.
• 클라이언트가 데이터를 쓰거나 추가할 경우, 기존 오브젝트를 덮어쓰는 대신 새로운 데이터 페이지를 생성하여 이전 버전의 불변성을 유지한다.
• 새로운 메타데이터를 이전 메타데이터와 연결하여 오브젝트의 현재 및 이력 상태를 완전한 가상 뷰로 구성한다.
• 데이터와 메타데이터 제공자를 노드 수준에서 공존시켜 네트워크 지연을 줄이고 동시 액세스 시 I/O 병렬 처리 성능을 향상시킨다.

실험 결과

연구 질문

• RQ1 탈중앙화된 P2P 환경에서 높은 동시 접근이 발생하는 매우 큰 수정 가능한 오브젝트에 대해 버전 관리를 효율적으로 지원할 수 있는 방법은 무엇인가?
• RQ2 동시 클라이언트 수와 오브젝트 크기가 증가할 경우, 높은 확장성과 낮은 성능 오버헤드를 달성할 수 있는 메타데이터 관리 전략은 무엇인가?
• RQ3 DHT 위에 구축된 분산 세그먼트 트리가 중앙 집중식 조율 없이도 원자성, 일致성, 동시 액세스를 지원할 수 있는가?
• RQ4 오브젝트 크기와 동시성 증가에 따라 메타데이터 오버헤드가 추가 및 읽기 작업의 대역폭에 미치는 영향은 어느 정도인가?
• RQ5 동일한 오브젝트의 서로 다른 부분을 동시에 읽는 독자 수가 증가함에 따라 시스템 성능은 어떻게 변화하는가?

주요 결과

• APPEND 작업은 오브젝트 크기가 64 GB로 증가함에 따라도 높은 대역폭을 유지하며, 페이지 수가 2의 거듭제곱에 도달할 때 약간의 감소가 관찰되어 메타데이터 스케일링이 예측 가능함을 보여준다.
• 175개 노드에서 평균 읽기 대역폭은 1명의 독자 시 60 MB/s에서 175명의 동시 독자 시 49 MB/s로 뿐만 아니라, 높은 독자 동시성에서도 강력한 확장성을 보여준다.
• 64 KB와 256 KB의 다양한 페이지 크기에서 시스템이 안정된 성능을 유지함으로써, 해상도에 관계없이 낮은 메타데이터 오버헤드를 확인할 수 있다.
• 분산 메타데이터 기반 아키텍처는 데이터 및 메타데이터에 대한 독립적이고 동시 액세스를 가능하게 하여, 고부하 환경에서 처리량을 크게 향상시킨다.
• Grid’5000 테스트베드에서의 프로토타입 구현은 최대 175개 노드와 대규모 오브젝트 워크로드를 사용하여 이 접근법의 실현 가능성과 확장성을 확인한다.
• 새로운 데이터 페이지만 저장하고 메타데이터 연결을 통해 이력 버전을 표현함으로써, 데이터의 전체 복제를 방지함으로써 공간 효율성을 달성한다.