[논문 리뷰] A new and five older Concurrent Memory Reclamation Schemes in Comparison (Stamp-it)

Manuel Pöter, Jesper Larsson Träff|arXiv (Cornell University)|2017. 12. 17.

Distributed systems and fault tolerance참고 문헌 25인용 수 3

한 줄 요약

이 논문은 기존의 모든 스레드를 스캔하여 가용성 여부를 판단하는 방식을 피하는, 잠금 없고 평균적으로 일정 시간이 소요되는 메모리 재활성화 기법인 Stamp-it를 소개한다. 512개의 스레드까지 지원하는 네 가지 아키텍처에서 평가한 결과, Hazard Pointers, Epoch 기반 재활성화, 참조 카운팅을 포함한 다섯 가지 기존 기법보다 재활성화 효율성과 런타임 면에서 뛰어나며, 특히 고병행 환경에서 뛰어난 성능을 보였다.

ABSTRACT

Memory management is a critical component in almost all shared-memory, concurrent data structures and algorithms, consisting in the efficient allocation and the subsequent reclamation of shared memory resources. This paper contributes a new, lock-free, amortized constant-time memory reclamation scheme called \emph{Stamp-it}, and compares it to five well-known, selectively efficient schemes from the literature, namely Lock-free Reference Counting, Hazard Pointers, Quiescent State-based Reclamation, Epoch-based Reclamation, and New Epoch-based Reclamation. An extensive, experimental evaluation with both new and commonly used benchmarks is provided, on four different shared-memory systems with hardware supported thread counts ranging from 48 to 512, showing Stamp-it to be competitive with and in many cases and aspects outperforming other schemes.

연구 동기 및 목표

• 모든 스레드를 스캔하여 가용한 노드를 탐지하는 데 기인한 병행 메모리 재활성화의 성능 저하 문제를 해결하기 위해.
• C++ 및 현대 하드웨어와 호환되는 일반 목적의 비침습적, 이식 가능하고 표준 준수 메모리 재활성화 기법을 설계하기 위해.
• 다양한 워크로드와 아키텍처에서 Stamp-it를 다섯 가지 잘 알려진 기법과 비교하여 확장성과 효율성 면에서의 열등성을 입증하기 위해.
• 메모리 압박을 줄이고, 특히 많은 스레드가 존재하는 고병행 환경에서 재활성화 지연을 개선하기 위해.
• 재현 가능성과 실세계 적용을 위해 모든 기법의 프로덕션 수준의 오픈소스 구현을 제공하기 위해.

제안 방법

• 모든 스레드를 스캔하지 않고도 노드의 가용성을 판단할 수 있도록 스레드 활동을 추적하는 글로벌 '스탬프' 값 사용하는 새로운 재활성화 메커니즘인 Stamp-it를 도입한다.
• 스레드별로 로컬한 퇴직 리스트와 글로벌 퇴직 리스트를 사용하며, 글로벌 스탬프가 활성 참조가 없음을 나타낼 때만 재활성화를 트리거한다.
• 잠금 없는 진행과 스레드 안정성을 보장하기 위해 하드웨어에서 지원하는 원자 연산(CAS, FAA)을 사용하며, 비표준 명령어를 피한다.
• 재활성화 중에 글로벌 스탬프가 변경되면, 레이스 컨디션을 방지하기 위해 새로운 스탬프로 재시작하는 재시작 메커니즘을 구현한다.
• 노드 참조를 추적하는 스레드 로컬 데이터 구조를 설계하여, 필요할 때만 글로벌 리스트로 이관함으로써 경쟁을 최소화한다.
• 다양한 데이터 구조와의 이식성과 비침습성을 확보하기 위해 Robison [29]에서 제안한 표준 C++ 인터페이스를 사용한다.

실험 결과

연구 질문

• RQ1 모든 스레드를 스캔하지 않고도 평균적으로 일정 시간이 소요되는 재활성화를 달성할 수 있는가?
• RQ2 고병행 환경에서 기존 기법들(Hazard Pointers, Epoch Reclamation 등)과 비교했을 때 Stamp-it의 재활성화 효율성과 런타임은 어떠한가?
• RQ3 스레드 수(최대 512개)가 다양한 아키텍처에서 재활성화 성능과 메모리 압박에 어떤 영향을 미치는가?
• RQ4 다른 기법들과 비교해 볼 때, Stamp-it는 '마지막 스레드 문제'(남은 퇴직된 노드를 수거할 수 있는 스레드가 없는 경우)를 어떻게 다루는가?
• RQ5 일반 목적의 참조 카운팅이 아닌 재활성화 기법이 참조 카운팅의 성능을 따라잡거나 초월할 수 있는가, 동시에 메모리 오버헤드를 피할 수 있는가?

주요 결과

• Stamp-it는 모든 다른 기법들(참조 카운팅 제외)과 마찬가지로 모든 스레드를 스캔하지 않고도 평균적으로 일정 시간이 소요되는 재활성화를 달성한다.
• Sparc에서의 HashMap 벤치마크에서 Stamp-it와 LFRC는 시행 수가 증가함에 따라 런타임이 감소하는 반면, HP, ER, NER, QSR는 수거되지 않은 메모리 압박으로 인해 런타임이 증가한다.
• 모든 아키텍처에서 Stamp-it는 HP, ER, NER, QSR보다 재활성화 효율성이 뛰어나며, 시간이 지남에 따라 퇴직된 노드의 수가 훨씬 적다.
• HP, ER, NER, QSR의 경우 퇴직된 노드 수가 점차 증가하며, 모든 스레드가 종료된 후에도 0으로 내려가지 않아 지속적인 메모리 압박이 발생한다.
• Stamp-it는 가벼운 스탬프 기반 재시작 메커니즘을 통해 '마지막 스레드' 레이스 컨디션을 완화하여 메모리 누출을 줄이고 최종 재활성화를 향상시킨다.
• 48~512개의 하드웨어 스레드를 가진 시스템에서 Stamp-it는 성능과 메모리 효율성 면에서 모든 다른 기법보다 뛰어나거나 동등한 성능을 보이며, 특히 스레드 수가 많을수록 뚜렷한 우월성을 보인다.