[논문 리뷰] Flashield: a Key-value Cache that Minimizes Writes to Flash

Assaf Eisenman, Asaf Cidon외 5명|arXiv (Cornell University)|2017. 02. 08.

Advanced Data Storage Technologies참고 문헌 12인용 수 4

한 줄 요약

Flashield는 DRAM을 동적 필터로 사용하여 자주 액세스되며 안정적인 객체들이 플래시로 이동하는 것을 예측함으로써 SSD에 기록되는 라이트를 최소화하는 하이브리드 키-밸류 캐시이다. 경량의 SVM 기반 머신러닝을 통해 쓰기 증폭을 중앙값 0.5×로 감소시켜, 기존 최첨단 시스템이 2.5× 이상의 쓰기 증폭을 겪는 것과는 달리, 히트율이나 처리량을 희생시키지 않고 성능을 뛰어나게 한다.

ABSTRACT

As its price per bit drops, SSD is increasingly becoming the default storage medium for cloud application databases. However, it has not become the preferred storage medium for key-value caches, even though SSD offers more than 10x lower price per bit and sufficient performance compared to DRAM. This is because key-value caches need to frequently insert, update and evict small objects. This causes excessive writes and erasures on flash storage, since flash only supports writes and erasures of large chunks of data. These excessive writes and erasures significantly shorten the lifetime of flash, rendering it impractical to use for key-value caches. We present Flashield, a hybrid key-value cache that uses DRAM as a "filter" to minimize writes to SSD. Flashield performs light-weight machine learning profiling to predict which objects are likely to be read frequently before getting updated; these objects, which are prime candidates to be stored on SSD, are written to SSD in large chunks sequentially. In order to efficiently utilize the cache's available memory, we design a novel in-memory index for the variable-sized objects stored on flash that requires only 4 bytes per object in DRAM. We describe Flashield's design and implementation and, we evaluate it on a real-world cache trace. Compared to state-of-the-art systems that suffer a write amplification of 2.5x or more, Flashield maintains a median write amplification of 0.5x without any loss of hit rate or throughput.

연구 동기 및 목표

• SSD 기반 키-밸류 캐시에서 높은 쓰기 증폭 문제를 해결함으로써, 비트당 비용은 낮지만 SSD 수명이 짧아지는 문제를 해결한다.
• 자주 작은 업데이트와 핫 오브젝트의 교체로 인해 과도한 쓰기 작업이 발생하는 기존 SSD 캐시의 한계를 극복한다.
• DRAM을 필터링 계층으로 활용하여 비이상적인 오브젝트가 플래시에 기록되는 것을 방지하는 하이브리드 캐싱 시스템을 설계한다.
• 오브젝트가 안정적이고 자주 액세스되는 것으로 입증된 후에만 플래시 쓰기를 연기함으로써 캐시 수준의 쓰기 증폭(Cached-Level Write Amplification, CLWA)을 최소화한다.
• 변수 크기의 데이터를 위한 새로운 메모리 내 인덱스를 설계하여, 오브젝트당 4바이트 미만의 메모리 사용으로 높은 메모리 효율성을 달성한다.

제안 방법

• 도착하는 오브젝트를 일시적으로 DRAM에서 필터링하여, 접근 패턴이 관찰될 때까지 SSD에 배치하지 않는다.
• 실시간 접근 통계를 기반으로 훈련된 경량의 애플리케이션 전용 서포트 벡터 머신(SVM) 분류기를 적용하여, 자주 읽힐 가능성이 높은 오브젝트를 예측한다.
• 시간에 따른 균일한 샘플링을 통해 접근 통계를 수집하여, 최소한의 오버헤드로 향후 접근 가능성의 추정치를 도출한다.
• 안정적이고 자주 액세스되는 것으로 예측된 오브젝트만 플래시로 이동시켜 SSD에 기록되는 횟수를 줄인다.
• 플래시에 저장된 변수 크기의 오브젝트를 위한 새로운 메모리 내 인덱스를 구현하여, 오브젝트당 4바이트만 사용함으로써 DRAM 점유율을 최소화한다.
• 순차적이고 대용량 블록 쓰기를 활용하여 장치 수준의 쓰기 증폭(DLWA)을 줄이며, 랜덤 쓰기와 가비지 컬렉션 오버헤드를 피한다.

실험 결과

연구 질문

• RQ1 DRAM 기반 필터링 메커니즘이 성능 저하 없이 SSD 기반 키-밸류 캐시의 쓰기 증폭을 크게 감소시킬 수 있는가?
• RQ2 오브젝트 접근 패턴을 예측하는 머신러닝 기반 기법이 안정적이고 자주 액세스되는 오브젝트를 효과적으로 식별할 수 있는가?
• RQ3 변수 크기의 오브젝트를 다루는 하이브리드 캐시에서 DRAM 사용량을 최소화하면서 효율적인 검색을 지원하는 최적의 메모리 내 인덱스 아키텍처는 무엇인가?
• RQ4 실제 워크로드에서 오브젝트 접근 패턴이 확인된 후에만 SSD 쓰기를 연기함으로써 쓰기 증폭을 얼마나 줄일 수 있는가?
• RQ5 플래시 하드웨어나 FTL을 수정하지 않고도, DRAM 수준의 SSD 수명을 달성할 수 있는가?

주요 결과

• Flashield는 기존 최첨단 시스템이 2.5× 이상의 쓰기 증폭을 겪는 데 비해 중앙값 0.5×로 쓰기 증폭을 감소시켜 SSD 수명을 크게 연장한다.
• 시스템은 기존 SSD 기반 캐시와 동일한 히트율과 처리량을 유지함으로써, 쓰기 감소가 성능에 악영향을 주지 않음을 입증한다.
• 경량의 SVM 기반 예측 모델은 높은 런타임 오버헤드 없이 안정적이고 자주 액세스되는 오브젝트를 효과적으로 식별한다.
• 새로운 메모리 내 인덱스는 평균적으로 오브젝트당 4바이트만 사용하여 필터링 및 캐싱에 필요한 DRAM을 효율적으로 활용한다.
• 오브젝트가 안정적임이 입증된 후에만 플래시 쓰기를 연기함으로써 Flashield는 불필요한 재기록을 방지하고 캐시 수준의 쓰기 증폭(Cached-Level Write Amplification, CLWA)을 줄였다.
• 동일 용량의 DRAM-only 캐시 대비 10배의 비용 절감을 달성했으며, 전력 소모는 낮고 지연 시간은 유사한 성능을 보였다.