[논문 리뷰] An Empirical Guide to the Behavior and Use of Scalable Persistent Memory

Jian Yang, Juno Kim외 3명|arXiv (Cornell University)|2019. 08. 09.

Parallel Computing and Optimization Techniques참고 문헌 56인용 수 30

한 줄 요약

이 논문은 Intel의 3D XPoint NVDIMM의 실증적 성능 특성을 규명하여, DRAM 및 이전의 시뮬레이션 방법과는 상당한 차이가 있음을 밝혀낸다. 마이크로벤치마크를 기반으로 세부적인 프로그래밍 지침(예: 미세한 쓰기 방지, 동시성 관리)을 수립하여 실제 응용 프로그램에서 성능 향상을 이끌어내고, 이전 연구에서 잘못된 시뮬레이션을 사용한 가정을 무효화한다.

ABSTRACT

After nearly a decade of anticipation, scalable nonvolatile memory DIMMs are finally commercially available with the release of Intel's 3D XPoint DIMM. This new nonvolatile DIMM supports byte-granularity accesses with access times on the order of DRAM, while also providing data storage that survives power outages. Researchers have not idly waited for real nonvolatile DIMMs (NVDIMMs) to arrive. Over the past decade, they have written a slew of papers proposing new programming models, file systems, libraries, and applications built to exploit the performance and flexibility that NVDIMMs promised to deliver. Those papers drew conclusions and made design decisions without detailed knowledge of how real NVDIMMs would behave or how industry would integrate them into computer architectures. Now that 3D XPoint NVDIMMs are actually here, we can provide detailed performance numbers, concrete guidance for programmers on these systems, reevaluate prior art for performance, and reoptimize persistent memory software for the real 3D XPoint DIMM. In this paper, we explore the performance properties and characteristics of Intel's new 3D XPoint DIMM at the micro and macro level. First, we investigate the basic characteristics of the device, taking special note of the particular ways in which its performance is peculiar relative to traditional DRAM or other past methods used to emulate NVM. From these observations, we recommend a set of best practices to maximize the performance of the device. With our improved understanding, we then explore the performance of prior art in application-level software for persistent memory, taking note of where their performance was influenced by our guidelines.

연구 동기 및 목표

• 10년간의 기대 끝에 상용화된 Intel의 3D XPoint NVDIMM의 실제 성능 특성을 실증적으로 평가하는 것.
• 지속 메모리 행동을 잘못 시뮬레이션한 이전 연구에서 기인한 오해를 규명하고 수정하는 것.
• 실제 3D XPoint 하드웨어에서 성능을 극대화하기 위한 구체적이고 데이터 기반의 프로그래밍 지침을 제공하는 것.
• 모의 또는 시뮬레이션된 동작이 아닌 실제 하드웨어 측정치를 기반으로 기존의 NVMM 인식 소프트웨어를 재평가하고 재최적화하는 것.
• 3D XPoint에 나타나는 아키텍처적 성능 문제를 규명하여 향후 지속 메모리 기술을 이해하는 데 기초가 되는 프레임워크를 제공하는 것.

제안 방법

• 실제 3D XPoint 시스템에서 광범위한 마이크로벤치마크를 수행하여 다양한 액세스 크기와 패턴에서 지연, 대역폭, 동시성 영향을 측정하였다.
• 응용 프로그램 수준의 벤치마크를 사용하여 제안된 지침이 파일 시스템 및 데이터 구조를 포함한 실제 소프트웨어 스택에 미치는 영향을 평가하였다.
• 실제 3D XPoint 성능을 일반적인 시뮬레이션 기법들(예: 소프트웨어 시뮬레이션, NUMA 기반 시뮬레이션, DRAM을 지속 메모리로 간주하는 것)과 비교하여 그 정확성 부족을 드러내었다.
• iMC의 쓰기 백업 큐(WPQ), XPBuffer, 메모리 인터리빙과 같은 하드웨어 구성 요소가 성능 행동에 미치는 영향을 분석하였다.
• 마이크로벤치마크 결과를 바탕으로 최적화 전략을 수립하였으며, 이는 쓰기 정밀도, 스레드 동시성, 명령어 선택(예: 비임시 저장)을 포함한다.
• 지침을 적용하여 기존 소프트웨어 시스템(예: 파일 시스템 및 데이터 구조)을 최적화하고, 이전 결과를 재분석하여 잘못된 가정으로 인한 성능 격차를 입증하였다.

실험 결과

연구 질문

• RQ1 3D XPoint NVDIMM의 실제 성능 특성은 DRAM과 이전 연구의 가정과 어떻게 다를까?
• RQ2 소프트웨어 시뮬레이션, NUMA 효과, 또는 DRAM을 지속 메모리로 간주하는 것과 같은 일반적인 시뮬레이션 기법들이 왜 실제 3D XPoint 동작을 예측하는 데 부적절한가?
• RQ3 쓰기 버퍼링, 인터리빙, 동시성과 같은 핵심 아키텍처 요소들이 3D XPoint 성능에 상당한 영향을 미치는 이유는 무엇인가?
• RQ4 프로그래머는 3D XPoint에서 성능 함정을 피하기 위해 어떻게 코드를 최적화할 수 있으며, 이러한 지침을 적용했을 때 측정 가능한 성능 향상은 어느 정도인가?
• RQ5 제안된 지침은 향후 지속 메모리 기술로 일반화될 수 있는가?

주요 결과

• 3D XPoint NVDIMM은 액세스 크기, 액세스 패턴, 동시성에 매우 민감한 성능을 보이며, 이는 DRAM보다 훨씬 더 큰 영향을 미친다.
• 3D XPoint의 내부 쓰기 정밀도 256 B는 더 작은 비정렬 쓰기 사용 시 심각한 성능 저하를 초래하므로, 정렬과 병합이 필수적이다.
• 다중 코어에서의 동시 쓰기 작업은 iMC의 쓰기 백업 큐(WPQ)와 XPBuffer에서의 경쟁으로 인해 상당한 성능 저하를 초래하므로, 동시 스레드 수를 최소화하는 것이 성능 향상에 유리하다.
• 기존의 시뮬레이션 기법들—소프트웨어 시뮬레이션, NUMA 기반 시뮬레이션, DRAM을 지속 메모리로 간주하는 것—은 잘못된 성능 결과를 도출하며 실제 하드웨어 동작을 예측하는 데 신뢰할 수 없다.
• 제안된 지침(예: 대용량 전송에 비임시 저장 사용, 미세한 쓰기 방지)을 적용함으로써 최적화된 소프트웨어 시스템에서 측정 가능한 성능 향상이 이루어졌으며, 이는 지침의 실용적 유용성을 입증한다.
• 이 지침들은 향후 지속 메모리 기술에도 유효할 것으로 보이며, 다양한 NVM 기술 간에 공통적으로 존재할 수 있는 기본적인 아키텍처적 문제들—버퍼링, 인터리빙, 명령어 수준의 영향—을 다루고 있기 때문이다.