[논문 리뷰] SMORE: A Cold Data Object Store for SMR Drives (Extended Version)

Peter Macko, Xiongzi Ge외 5명|arXiv (Cornell University)|2017. 05. 26.

Advanced Data Storage Technologies참고 문헌 22인용 수 5

한 줄 요약

SMORE는 호스트가 관리하거나 호스트 인식 기능을 갖춘 SMR 드라이브를 위한 로그 구조적이고 에러 복구 기반의 오브젝트 스토어로, 대용량 오브젝트 인게이션에 대해 전체 디스크 대역폭을 제공하고, 존 이동을 통한 효율적인 쓰레기 수거를 가능하게 한다. 로그 레코드를 오브젝트 데이터와 교차 배치하여 인덱스의 내구성을 확보함으로써 추가 로깅 없이도 저작 amplification(<2.0, 80% 점유율 시)과 분당 이하의 충돌 복구를 달성한다.

ABSTRACT

Shingled magnetic recording (SMR) increases the capacity of magnetic hard drives, but it requires that each zone of a disk be written sequentially and erased in bulk. This makes SMR a good fit for workloads dominated by large data objects with limited churn. To explore this possibility, we have developed SMORE, an object storage system designed to reliably and efficiently store large, seldom-changing data objects on an array of host-managed or host-aware SMR disks. SMORE uses a log-structured approach to accommodate the constraint that all writes to an SMR drive must be sequential within large shingled zones. It stripes data across zones on separate disks, using erasure coding to protect against drive failure. A separate garbage collection thread reclaims space by migrating live data out of the emptiest zones so that they can be trimmed and reused. An index stored on flash and backed up to the SMR drives maps object identifiers to on-disk locations. SMORE interleaves log records with object data within SMR zones to enable index recovery after a system crash (or failure of the flash device) without any additional logging mechanism. SMORE achieves full disk bandwidth when ingesting data---with a variety of object sizes---and when reading large objects. Read performance declines for smaller object sizes where inter- object seek time dominates. With a worst-case pattern of random deletions, SMORE has a write amplification (not counting RAID parity) of less than 2.0 at 80% occupancy. By taking an index snapshot every two hours, SMORE recovers from crashes in less than a minute. More frequent snapshots allow faster recovery.

연구 동기 및 목표

• 순차적 쓰기와 대량 삭제가 요구되는 SMR 드라이브에 대해 대용량으로 자주 수정되지 않는 데이터 오브젝트를 효율적으로 저장하는 과제를 해결한다.
• 드라이브가 관리하는 SMR의 한계를 극복하기 위해, SMR의 높은 순차 처리 대역폭과 테라바이트당 낮은 비용을 활용하는 시스템을 설계한다.
• 한 번 쓰고 순차적으로 읽는 워크로드인 미디어, 백업, 가상 머신 이미지와 같은 환경에서 신뢰성 있고 고성능 스토리지 지원을 가능하게 한다.
• 랜덤 삭제 및 시스템 장애 상황에서도 쓰기 증폭을 최소화하고 빠른 충돌 복구를 보장한다.
• 스탠드alone 배포와 HDFS와 같은 분산 스토리지 시스템에의 통합을 모두 지원하는 시스템을 설계한다.

제안 방법

• SMR 드라이브의 순차적 쓰기 제약을 준수하면서도 대규모 셰일드 존에 순차적으로 데이터를 쓰는 로그 구조적 접근 방식을 사용한다.
• 다른 드라이브에 걸쳐 존 간 에러 복구 기법을 적용하여 복구성과 신뢰성을 확보하면서도 전체 복제를 요구하지 않는다.
• 살아있는 데이터를 부분적으로 채워진 존에서 이동시켜 공간을 확보하고 존 트리밍을 가능하게 하는 별도의 쓰레기 수거 스레드를 도입한다.
• 오브젝트 ID를 디스크 상의 위치로 매핑하는 플래시 기반 인덱스를 유지하며, 충돌 복구를 위해 주기적인 스냅샷을 생성한다.
• SMR 존 내부에서 로그 레코드를 오브젝트 데이터와 교차 배치시켜 추가 로깅 없이도 충돌 복구를 가능하게 하며, 장애 후에도 인덱스 일관성을 보장한다.
• 존 세트 테이블을 사용하여 드라이브 간 존의 유연하고 동적 그룹화를 관리하여 여유 공간이 있는 존에 재빌드할 수 있도록 하되, 여유 드라이브가 필요로 하지 않는다.

실험 결과

연구 질문

• RQ1 SMR 드라이브의 높은 순차 대역폭을 효율적으로 활용하면서도 순차 쓰기 및 대량 삭제 제약을 준수할 수 있는 방법은 무엇인가?
• RQ2 랜덤 삭제와 같은 최악의 채널 패턴 하에서 SMR 기반 시스템의 쓰기 증폭을 최소화할 수 있는 기법은 무엇인가?
• RQ3 외부 로깅 메커니즘에 의존하지 않고도 효율적이고 신뢰성 있는 충돌 복구를 달성할 수 있는가?
• RQ4 로그가 섞인 설계가 시스템 또는 플래시 장치 장애 후에도 인덱스 일관성과 빠른 복구를 가능하게 할 수 있는가?
• RQ5 특화된 오브젝트 스토어인 SMORE가 다양한 오브젝트 크기와 현실적인 워크로드에서 전체 디스크 대역폭을 얼마나 잘 활용할 수 있는가?

주요 결과

• SMORE는 다양한 오브젝트 크기에서 데이터 인게이션 동안 전체 디스크 대역폭을 달성하여 SMR 드라이브의 처리 능력을 효율적으로 활용함을 입증한다.
• 80% 디스크 점유율에서 최악의 랜덤 삭제 패턴 하에서도 SMORE는 RAID 패리티를 제외한 쓰기 증폭이 2.0 미만임을 보이며 높은 효율성을 입증한다.
• 2시간마다 주기적으로 인덱스 스냅샷을 생성함으로써 충돌 복구를 1분 이내에 달성할 수 있으며, 더 자주 스냅샷을 찍을 경우 더 빠른 복구가 가능하다.
• 로그 레코드를 오브젝트 데이터와 교차 배치함으로써 추가 로깅 메커니즘 없이도 충돌 복구를 가능하게 하여 시스템을 단순화하고 신뢰성을 향상시킨다.
• 쓰레기 수거가 가장 덜 채워진 존에서 데이터를 이동시켜 공간을 효과적으로 회수함으로써 여유 드라이브 없이도 존 재사용이 가능하다.
• 시스템은 스탠드얼론 배포와 HDFS와 같은 분산 시스템에의 통합을 모두 지원하여 대규모 스토리지 환경에 대한 적용 가능성을 높인다.