[논문 리뷰] BRAVO—Biased Locking for Reader-Writer Locks

David Dice, Alex Kogan|arXiv (Cornell University)|2018. 10. 03.

Parallel Computing and Optimization Techniques인용 수 1

한 줄 요약

BRAVO는 기존의 읽기-쓰기 잠금을 개선하기 위해 두 개의 정수 필드를 추가하는 경량 변환입니다. 이를 통해 공유되고 NUMA에 유리한 읽기자 수 표를 통해 스케일러블한 읽기 동시성을 실현합니다. 스레드 식별자를 해시하여 읽기자 존재 정보를 표에 분산함으로써 BRAVO는 캐시 일관성 트래픽을 감소시키고 잠금 크기를 작게 유지하며, 메모리 점유율이 낮은 읽기 지배 워크로드에서 높은 확장성을 달성합니다.

ABSTRACT

Designers of modern reader-writer locks confront a difficult trade-off related to scalability. Locks that have a compact memory representation for active readers will typically suffer under high intensity read-dominated workloads when the reader indicator' state is updated frequently by a diverse set of threads, causing cache invalidation and coherence traffic. Other designs, such as cohort reader-writer locks, use distributed indicators, one per NUMA node. This improves reader-reader scalability, but also increases the size of each lock instance. We propose a simple transformation BRAVO, that augments any existing reader-writer lock, adding just two integer fields to the lock instance. Readers make their presence known to writers by hashing their thread's identity with the lock address, forming an index into a visible readers table. Readers attempt to install the lock address into that element in the table, making their existence known to potential writers. All locks and threads in an address space can share the visible readers table. Updates by readers tend to be diffused over the table, resulting in a NUMA-friendly design. Crucially, readers of the same lock tend to write to different locations in the array, reducing coherence traffic. Specifically, BRAVO allows a simple compact lock to be augmented so as to provide scalable concurrent reading but with only a modest increase in footprint.

연구 동기 및 목표

• 읽기 지배 워크로드에서 빈번한 캐시 라인 무효화로 인해 발생하는 읽기-쓰기 잠금의 확장성 한계를 해결하기 위해.
• 기존 잠금에서 메모리 표현의 단순성과 읽기-읽기 확장성 간의 상충 관계를 극복하기 위해.
• 잠금 크기를 크게 늘리지 않고도 기존 읽기-쓰기 잠금이 동시 읽기 환경에서 효율적으로 확장되도록 하기 위해.
• 스레드 식별자 해시를 사용해 공유 테이블에 읽기자 존재 정보 업데이트를 분산시켜 일관성 트래픽을 최소화하기 위해.
• 기존 잠금 구현과의 호환성과 단순성을 확보하면서도, 단지 두 개의 추가 정수 필드만으로도 구현 가능한 솔루션을 설계하기 위해.

제안 방법

• 기존의 읽기-쓰기 잠금에 잠금 전용 인덱스와 읽기자 수를 위한 두 개의 정수 필드를 추가하기.
• 모든 잠금 주소에 대응하는 엔트리가 있는 전역 공유 visible readers 테이블을 사용하며, 스레드 식별자 해시를 통해 활성 읽기자를 추적하기.
• 각 읽기자의 스레드 ID를 잠금 주소와 함께 해시하여 visible readers 테이블 내 인덱스를 계산하고, 업데이트를 배열 전역에 분산하기.
• 읽기자가 계산된 테이블 엔트리에 잠금 주소를 원자적으로 설치함으로써 쓰기자에게 존재를 신호할 수 있도록 허용하기.
• 주소 공간 내 모든 잠금과 스레드가 동일한 visible readers 테이블을 공유하도록 보장하여, 최소한의 오버헤드로 잠금 간 협업을 가능하게 하기.
• 해시 메커니즘을 활용해 동일한 잠금의 읽기자 간 경쟁과 캐시 라인 공유를 줄이며, NUMA 국지성을 향상시키기.

실험 결과

연구 질문

• RQ1 메모리 점유율을 크게 늘리지 않으면서도 확장 가능한 동시 읽기 기능을 지원할 수 있는(compact) 읽기-쓰기 잠금을 개선할 수 있는가?
• RQ2 공유 테이블에 읽기자 존재 정보 업데이트를 분산시키면 중앙집중식 읽기자 상태 관리 방식보다 캐시 일관성 트래픽이 감소하는가?
• RQ3 스레드 식별자 해시가 읽기자 테이블의 로드 분포와 경쟁 감소에 얼마나 기여하는가?
• RQ4 기존의 읽기-쓰기 잠금과 코hort 기반 잠금과 비교해 BRAVO는 고강도 읽기 지배 워크로드에서 어떻게 성능을 내는가?
• RQ5 BRAVO는 기존 잠금 구현에 최소한의 변경만으로 적용 가능하며, 기존 호환성도 유지할 수 있는가?

주요 결과

• BRAVO는 분산된 읽기자 신호 방식을 통해 캐시 일관성 트래픽을 줄임으로써 기존 읽기-쓰기 잠금이 고강도 동시 읽기 환경에서 효율적으로 확장되도록 함.
• 스레드 식별자 해시를 활용해 읽기자 업데이트가 visible readers 테이블 전역에 퍼지며, 경쟁을 최소화하고 NUMA 국지성을 향상시킴.
• BRAVO는 오직 두 개의 추가 정수 필드만을 사용해 압축된 잠금 표현을 유지하며, 코hort 기반 설계의 부풀어림을 피함.
• 공유된 visible readers 테이블 덕분에 주소 공간 내 모든 잠금과 스레드가 읽기자 존재를 효율적으로 공유하고 협업할 수 있어 확장성 향상.
• 읽기자 업데이트를 테이블 전역에 흩어냄으로써 캐시 라인 무효화 빈도를 감소시키고, 읽기 지배 워크로드에서 전체 시스템 처리량을 향상시킴.
• 변환 과정은 가볍고 기존 잠금 구현과 호환되며, 최소한의 엔지니어링 노력으로 구현이 가능함.