[논문 리뷰] The Splay-List: A Distribution-Adaptive Concurrent Skip-List

Vitaly Aksenov, Dan Alistarh외 2명|arXiv (Cornell University)|2020. 01. 01.

Distributed systems and fault tolerance인용 수 3

한 줄 요약

이 논문은 접근 빈도에 따라 요소의 높이를 동적으로 조정함으로써 빠른 검색을 위한 분포 적응형 동시 스킵리스트인 splay-list를 제안한다. 비균형 워크로드 하에서 순서 최적의 평균 성능을 달성하며, 특정 동시성과 비균형 접근 상황에서 기존 스킵리스트와 CBTree보다 뛰어난 성능을 보이며, 写기 오버헤드를 줄이기 위해 접근 수를 근사적으로 계산하는 방식을 사용한다.

ABSTRACT

The design and implementation of efficient concurrent data structures has seen significant attention. However, most of this work has focused on concurrent data structures providing good worst-case guarantees. In real workloads, objects are often accessed at different rates, since access distributions may be non-uniform. Efficient distribution-adaptive data structures are known in the sequential case, e.g. the splay-trees; however, they often are hard to translate efficiently in the concurrent case. In this paper, we investigate distribution-adaptive concurrent data structures, and propose a new design called the splay-list. At a high level, the splay-list is similar to a standard skip-list, with the key distinction that the height of each element adapts dynamically to its access rate: popular elements "move up," whereas rarely-accessed elements decrease in height. We show that the splay-list provides order-optimal amortized complexity bounds for a subset of operations, while being amenable to efficient concurrent implementation. Experimental results show that the splay-list can leverage distribution-adaptivity to improve on the performance of classic concurrent designs, and can outperform the only previously-known distribution-adaptive design in certain settings.

연구 동기 및 목표

• 비균형 접근 패턴을 활용하는 효율적이고 동시적, 분포 적응형 데이터 구조의 부족을 해결하기 위해.
• 접근 빈도에 따라 요소 높이를 조정하는 동시 스킵리스트 변종을 설계하여 인기 요소에 대한 성능을 향상시키기 위해.
• 실제 성능에 필수적인 근사적 접근 수 계산 하에 이론적 보장을 제공하기 위해.
• 다양한 워크로드와 업데이트 비율 하에서 splay-list의 확장성과 성능을 기존 동시 설계(예: CBTree 및 표준 스킵리스트)와 비교 평가하기 위해.

제안 방법

• splay-list는 동적 높이 조정 기능을 갖춘 스킵리스트 기반 아키텍처를 사용한다: 자주 접근되는 요소는 더 높은 수준으로 승격되어 검색 비용을 감소시킨다.
• 재균형 알고리즘을 통해 요소 x에 대해 평균 검색 및 삭제 시간이 O(log m / f(x))가 되도록 보장한다. 여기서 f(x)는 이전에 접근된 횟수이다.
• 근사적 접근 수 계산을 지원하며, 읽기자 중 1/c 비율만 접근 통계를 업데이트함으로써 쓰기 경쟁을 줄인다.
• 기존 스킵리스트 원자 명령 위에 락 기반 업데이트를 적용하여 효율적인 동시 접근을 가능하게 한다.
• C++로 구현된 성능 평가를 통해 균일 및 비균형 워크로드에서 다양한 업데이트 비율과 스레드 수를 대상으로 수행된다.

실험 결과

연구 질문

• RQ1 접근 빈도에 따라 구조를 적응시키는 동시 스킵리스트를 설계할 수 있는가? 이는 비균형 워크로드에서 성능 향상에 기여하는가?
• RQ2 동적 높이 조정 하에서 이러한 구조의 이론적 평균 시간 복잡도는 무엇인가?
• RQ3 근사적 접근 수 계산이 동시 환경에서 성능과 정확성에 어떤 영향을 미치는가?
• RQ4 다양한 동시 접근 상황에서 splay-list는 CBTree 및 표준 스킵리스트와 비교해 병렬 처리 능력과 확장성 면에서 어떤가?

주요 결과

• 동적 높이 조정 하에서 splay-list는 이론적 한계와 일치하는 순서 최적의 평균 검색 및 삭제 시간 O(log m / f(x))를 달성한다.
• 근사적 접근 수 계산(1/c 업데이트 확률)을 사용할 경우, contains 연산의 기대 평균 비용은 O(c log(m / f(x)))가 되며, c가 상수일 경우 여전히 효율적이다.
• splay-list는 모든 테스트 워크로드와 업데이트 비율에서 뛰어난 확장성을 보이며, 고업데이트 비율 상황에서 CBTree를 능가한다.
• 중간 정도의 비균형 워크로드에서 저업데이트 비율일 경우 CBTree는 splay-list와 유사한 성능을 보이지만, 고업데이트 비율에서는 성능이 급격히 떨어진다.
• 자주 접근되는 '인기' 영역을 활용함으로써 캐시 성능이 향상되어 더 긴 접근 경로의 영향을 부분적으로 상쇄한다.