[논문 리뷰] Durable Queues

Gal Sela, Erez Petrank|arXiv (Cornell University)|2021. 07. 06.

Parallel Computing and Optimization Techniques참고 문헌 36인용 수 1

한 줄 요약

이 논문은 비버니시브 메인 메모리에서의 내구성 있는 선형화 가능성을 확보하면서도, 지속성 연산 수와 플러시된 데이터에 대한 액세스 수를 최소화함으로써 고성능, 락-프리, 내구성 있는 큐를 제안한다. 캐시 효율성을 최적화하고 비용이 많이 드는 캐시 무효화를 줄임으로써 제안된 내구성 큐는 최신 기술 수준의 솔루션을 능가하며, 플러시된 콘텐츠에 대한 액세스 수를 최소화하는 것이 지속성 명령어 수를 최소화하는 것만큼 중요하다는 것을 입증한다.

ABSTRACT

We consider durable data structures for non-volatile main memory, such as the new Intel Optane memory architecture. Substantial recent work has concentrated on making concurrent data structures durable with low overhead, by adding a minimal number of blocking persist operations (i.e., flushes and fences). In this work we show that focusing on minimizing the number of persist instructions is important, but not enough. We show that access to flushed content is of high cost due to cache invalidation in current architectures. Given this finding, we present a design of the queue data structure that properly takes care of minimizing blocking persist operations as well as minimizing access to flushed content. The proposed design outperforms state-of-the-art durable queues. We start by providing a durable version of the Michael Scott queue (MSQ). We amend MSQ by adding a minimal number of persist instructions, fewer than in available durable queues, and meeting the theoretical lower bound on the number of blocking persist operations. We then proceed with a second amendment to this design, that eliminates accesses to flushed data. Evaluation shows that the second amendment yields substantial performance improvement, outperforming the state of the art and demonstrating the importance of reduced accesses to flushed content. The presented queues are durably linearizable and lock-free. Finally, we discuss the theoretical optimal number of accesses to flushed content.

연구 동기 및 목표

• 비버니시브 메인 메모리에서 플러시된 데이터에 대한 높은 비용의 액세스로 인해 발생하는 내구성 있는 동시 데이터 구조의 성능 저하 문제를 해결한다.
• 지속성 연산 수의 이론적 하한선을 충족하면서도 플러시된 콘텐츠에 대한 액세스를 줄이는 내구성 큐를 설계한다.
• 지속성 연산과 데이터 액세스 패턴을 최적화하여 기존의 내구성 큐보다 뛰어난 성능을 달성한다.
• 내구성 있는 데이터 구조에서 플러시된 콘텐츠에 대한 액세스 수의 이론적 하한선을 수립한다.

제안 방법

• 유명한 락-프리 큐인 마이클 스코트 큐(MSQ)를 기반으로 하되, 내구성을 보장하기 위해 최소한의 지속성 명령어를 추가한다.
• 지속성 연산 수를 최소화하기 위해 이론적 하한선 분석을 적용하여 이론적 최소값과 일치시킨다.
• 플러시된 메모리 위치에서의 읽기 액세스를 제거함으로써 캐시 무효화를 줄이는 두 번째 최적화 기법을 도입한다.
• 최종 데이터 구조가 여전히 내구성 있는 선형화 가능하고 락-프리임을 보장하여 지속성 메모리 의미 체계 하에서 정확성을 유지한다.
• 기억 장벽과 플러시 연산을 전략적으로 사용하여 성능을 희생시키지 않은 채 내구성을 확보한다.
• 다양한 큐 설계에서 플러시된 데이터에 대한 액세스 패턴을 분석하고 비교하여 성능 영향을 정량화한다.

실험 결과

연구 질문

• RQ1 비버니시브 메모리에서 내구성 있고 락-프리인 큐를 위해 필요한 최적의 지속성 연산 수는 얼마인가?
• RQ2 플러시된 데이터에 대한 액세스는 내구성 있는 동시 데이터 구조의 성능에 어떤 영향을 미치는가?
• RQ3 플러시된 콘텐츠에 대한 액세스를 줄임으로써 지속성 연산 수를 최소화하는 것 이상으로 내구성 큐의 성능을 크게 향상시킬 수 있는가?
• RQ4 내구성 있는 데이터 구조에서 플러시된 콘텐츠에 대한 액세스 수의 이론적 하한선은 무엇인가?
• RQ5 지속성 연산과 플러시된 데이터 액세스 수를 모두 최소화하면서도 락-프리이자 내구성 있는 선형화 가능성을 확보한 내구성 큐는 어떻게 설계할 수 있는가?

주요 결과

• 현재 아키텍처에서 플러시된 데이터에 대한 액세스는 캐시 무효화로 인해 높은 성능 비용을 수반하며, 이는 지속성 명령어 비용을 넘어서는 핵심 성능 저하 요인이다.
• 제안된 큐 설계는 지속성 연산 수와 플러시된 콘텐츠 액세스 수를 모두 줄여 기존의 내구성 큐보다 뛰어난 성능을 달성한다.
• 두 번째 최적화인 플러시된 데이터에서의 읽기 액세스 제거가 높은 성능 향상을 가져오며, 플러시된 콘텐츠에 대한 데이터 액세스 수를 최소화하는 것이 지속성 명령어 수를 최소화하는 것만큼 중요하다는 것을 입증한다.
• 최종 설계는 지속성 연산 수의 이론적 하한선을 달성하여 이 차원에서의 최적성임을 확인한다.
• 제안된 큐는 내구성 있는 선형화 가능성이자 락-프리이므로 지속성 메모리 의미 체계 하에서 정확성과 동시성 안전성을 모두 보장한다.
• 본 연구는 플러시된 콘텐츠에 대한 액세스 수의 최적값에 대한 이론적 기초를 마련하여 향후 내구성 있는 데이터 구조 설계의 기준이 되는 벤치마크를 제공한다.