[논문 리뷰] Techniques for Constructing Efficient Lock-free Data Structures

Trevor Brown|arXiv (Cornell University)|2017. 12. 14.

Distributed systems and fault tolerance참고 문헌 112인용 수 5

한 줄 요약

이 논문은 효율적인 락프리 트리 데이터 구조를 구축하는 데 간소화하는 새로운 다단어 동기화 원자성(primitives)인 LLX와 SCX를 소개한다. 새로운 락프리 에포크 기반 재활용 알고리즘(DEBRA+)을 통해 동적 메모리 할당과 재활용을 가능하게 하고, 하드웨어 트랜잭셔널 메모리(HTM)를 활용해 성능을 향상시킴으로써, 강력한 진행 보장과 낮은 오버헤드를 갖춘 고성능 스레드 세이프 트리 연산을 달성한다.

ABSTRACT

Building a library of concurrent data structures is an essential way to simplify the difficult task of developing concurrent software. Lock-free data structures, in which processes can help one another to complete operations, offer the following progress guarantee: If processes take infinitely many steps, then infinitely many operations are performed. Handcrafted lock-free data structures can be very efficient, but are notoriously difficult to implement. We introduce numerous tools that support the development of efficient lock-free data structures, and especially trees.

연구 동기 및 목표

• 단일 워드 CAS 연산만을 사용할 때 효율적인 락프리 데이터 구조, 특히 트리를 구현하는 데 어려움을 해결하기 위해.
• 락프리 알고리즘에서 동적 메모리 할당과 재활용의 복잡성과 오버헤드를 줄이기 위해.
• 단일-CAS와 완전한 다단어-CAS 사이에서 표현력과 효율성을 균형 잡는 동기화 원자성을 설계하기 위해.
• 크로마틱 트리와 릴랙스드 B슬래시 트리와 같은 고급 트리 구조의 고성능, 확장 가능한 구현을 가능하게 하기 위해.
• 트리 기반 데이터 구조와 현대 하드웨어 트랜잭셔널 메모리와 호환되는 실용적인 락프리 메모리 재활용 메커니즘을 개발하기 위해.

제안 방법

• LLX와 SCX를 새로운 동기화 원자성으로 도입하여, 완전한 다단어-CAS가 필요 없이 다단어 원자 갱신을 가능하게 한다.
• 트리 수정 로직을 추상화하는 트리 업데이트 템플릿을 개발하여, 락프리 트리 연산의 모듈화되고 정확한 구현을 가능하게 한다.
• 동적 노드 할당을 위한 트리 기반 데이터 구조에 특화된 빠르고 락프리 에포크 기반 재활용(EBR) 알고리즘인 DEBRA+를 설계한다.
• 하드웨어 트랜잭셔널 메모리(HTM)를 활용해 성능을 가속화하기 위해 3경로 실행 모델(빠른 경로, 중간 경로, 후퇴 경로)을 적용하여 간섭과 오버헤드를 최소화한다.
• SCX 디스크립터의 동적 할당을 제거하는 새로운 기법을 통해 디스크립터 관리를 최적화하여 메모리 할당 압력을 감소시킨다.
• 템플릿과 원자성을 활용해 크로마틱 탐색 트리, 릴랙스드 AVL 트리, 릴랙스드 (a,b)-트리, 그리고 개선된 공간 복잡도를 가진 새로운 릴랙스드 B슬래시 트리의 최초 락프리 버전을 구현한다.

실험 결과

연구 질문

• RQ1 락프리 데이터 구조에 대해 단일 워드 CAS보다 더 표현력이 뛰어나면서도 완전한 다단어-CAS보다 더 효율적인 동기화 원자성을 어떻게 설계할 수 있는가?
• RQ2 전통적인 EBR와 GC 접근 방식의 단점들을 피하면서도, 락프리 트리 구현에서 동적 메모리 재활용을 효율적이고 확장 가능하게 수행하는 방법은 무엇인가?
• RQ3 하드웨어 트랜잭셔널 메모리를 효과적으로 활용하여 락프리 트리 연산을 가속화하면서도 정확성과 진행 보장을 유지할 수 있는가?
• RQ4 크로마틱 트리와 릴랙스드 B트리와 같은 복잡한 트리 구조의 정확하고 효율적인 락프리 구현을 체계적으로 어떻게 구성할 수 있는가?
• RQ5 SCX 연산에서 디스크립터 객체의 동적 할당을 제거하기 위해 적용할 수 있는 최적화 기법은 무엇인가?

주요 결과

• LLX와 SCX 원자성은 크로마틱 탐색 트리, 릴랙스드 AVL 트리, 릴랙스드 (a,b)-트리의 최초 락프리 버전을 가능하게 하여 그 표현력과 실용성을 입증한다.
• 새로운 B트리 변종인 릴랙스드 B슬래시 트리는 기존 B트리에 비해 훨씬 우수한 최악의 경우 공간 복잡도를 달성한다.
• DEBRA+는 동적 노드 할당을 사용하는 트리 기반 데이터 구조와 호환되면서도 효율적인 첫 번째 락프리 에포크 기반 재활용 알고리즘이다.
• 3경로 HTM 가속 기법은 빠른 경로에서의 디스크립터 검사 단절을 통해 오버헤드를 감소시켜 다양한 워크로드에서 뚜렷한 성능 향상을 이룬다.
• SCX 연산에서 동적 디스크립터 할당을 제거하는 기법은 메모리 할당 압력을 감소시키고, 광범위한 알고리즘군에서 성능 향상을 이룬다.
• 실험 결과, 특히 높은 경쟁이 발생하는 워크로드에서 HTM 가속 구현이 뚜렷한 성능 향상을 보이며 3경로 접근 방식의 효과성을 입증한다.