[논문 리뷰] Cache-Aware Lock-Free Concurrent Hash Tries

Aleksandar Prokopec, Phil Bagwell외 1명|arXiv (Cornell University)|2017. 09. 18.

Distributed systems and fault tolerance참고 문헌 13인용 수 11

한 줄 요약

이 논문은 락 없이 캐시를 고려한 동시성 해시 트라이(Ctrie)를 제안하며, 스레드 간 블로킹 없이 스레드 세이프한 삽입, 검색, 삭제 연산을 가능하게 하는 단일 워드 비교 및 스왑(CAS) 명령어를 사용한다. 이 데이터 구조는 삭제 후 동적 수축을 통해 공간 효율성을 유지하고, 선형화 가능성과 락 프리 성격을 보장하여 정지-세계 전환 리사이징 단계 없이 고성능 및 높은 확장성을 갖춘 동시 작업 환경에서 유의미한 성능을 달성한다.

ABSTRACT

This report describes an implementation of a non-blocking concurrent shared-memory hash trie based on single-word compare-and-swap instructions. Insert, lookup and remove operations modifying different parts of the hash trie can be run independent of each other and do not contend. Remove operations ensure that the unneeded memory is freed and that the trie is kept compact. A pseudocode for these operations is presented and a proof of correctness is given -- we show that the implementation is linearizable and lock-free. Finally, benchmarks are presented which compare concurrent hash trie operations against the corresponding operations on other concurrent data structures, showing their performance and scalability.

연구 동기 및 목표

• 잠금을 피하고 스레드 장애나 지연 상황에서도 진행 보장을 보장하는 동시성 해시 트라이를 설계한다.
• 키 삭제 후 트라이의 동적 수축을 통해 공간 효율성을 유지한다.
• 정지-세계 전환 리사이징 단계를 제거하여 실시간 동작을 가능하게 한다.
• 선형화 가능성과 락 프리 성격을 공식적으로 증명하여 동시 접근 상황에서의 정확성을 보장한다.
• 포괄적인 벤치마크를 통해 기존의 동시성 데이터 구조와의 성능을 평가한다.

제안 방법

• 공간 효율성과 캐시를 고려한 메모리 접근을 보장하기 위해 비트맵 인덱스가 적용된 해시 어레이 매apped 트라이 구조를 사용한다.
• 모든 연산(삽입, 검색, 삭제)은 락을 피하기 위해 단일 워드 비교 및 스왑(CAS) 명령어를 사용해 구현된다.
• 비트맵과 배열 엔트리에 대한 원자적 업데이트를 통해 일관성을 유지하며, 동시 수정 상황에서도 안정성을 확보한다.
• 정리 및 수축 메커니즘은 null-inode를 제거하고 톰브-inode를 snode로 복원하여 트라이를 압축하고 깊이를 줄인다.
• 압축을 잎에서 루트로 상향 방향으로 전파하는 'tombCompress' 단계를 포함하여, 길이가 1인 히프가 최대 하나만 남도록 보장한다.
• 공식적인 정확성 증명은 상태 불변성과 유한 상태 전진 논증을 사용하여 선형화 가능성과 락 프리 성격을 확립한다.

실험 결과

연구 질문

• RQ1 잠금 없이 공간 효율성과 캐시를 고려한 동시성 해시 트라이를 구현할 수 있는가?
• RQ2 삭제 연산은 어떻게 사용되지 않는 메모리를 해제하고 트라이를 압축 상태로 유지하는가?
• RQ3 전역 동기화 또는 정지-세계 전환 리사이징 단계가 없는 것이 동시 작업 환경에서 성능과 확장성 향상에 기여하는가?
• RQ4 제안된 데이터 구조는 모든 실행 시나리오에서 선형화 가능하고 락 프리인가?
• RQ5 실제로 Ctrie의 성능은 다른 동시성 데이터 구조와 비교해 어떻게 되는가?

주요 결과

• Ctrie는 선형화 가능성과 락 프리 성격을 확보하여, 어떤 실행 순서에서도 적어도 한 스레드가 진행 보장을 받는다.
• 삭제 후 데이터 구조는 동적으로 수축하여 최적의 깊이를 유지하고 메모리 사용량을 최소화한다.
• 벤치마크 결과, 높은 경쟁 상황에서 다른 동시성 데이터 구조보다 처리량과 확장성 면에서 Ctrie가 뛰어난 성능을 보였다.
• 전역 동기화 단계가 없어 실시간 동작이 가능하고 성능 예측이 가능하다.
• 스레드 수가 증가함에 따라 잘 확장되며, 락 기반 대비 동시 작업 환경에서 뛰어난 성능을 보였다.
• 정확성 증명은 모든 연산이 임의의 오버랩 및 스레드 장애 상황에서도 안전하다는 것을 확인한다.