[논문 리뷰] Accelerating Time Series Analysis via Processing using Non-Volatile Memories

Ivan Fernandez, Christina Giannoula외 7명|arXiv (Cornell University)|2022. 11. 08.

Time Series Analysis and Forecasting참고 문헌 189인용 수 3

한 줄 요약

이 논문은 시간 시리즈 분석을 위한 MRAM 기반의 Processing-Using-Memory (PUM) 가속기인 MATSA를 제안한다. MATSA는 외부 메모리로의 데이터 이동을 제거하기 위해 MRAM 크로스바에서 직접 계산을 수행함으로써, 서브시퀀스 동적 시간 왜곡(sDTW)을 가속화한다. MATSA는 각각 CPU, GPU, Processing-Near-Memory 플랫폼 대비 7.35×/6.15×/6.31× 높은 성능과 11.29×/4.21×/2.65× 높은 에너지 효율성을 달성한다.

ABSTRACT

Time Series Analysis (TSA) is a critical workload to extract valuable information from collections of sequential data, e.g., detecting anomalies in electrocardiograms. Subsequence Dynamic Time Warping (sDTW) is the state-of-the-art algorithm for high-accuracy TSA. We find that the performance and energy efficiency of sDTW on conventional CPU and GPU platforms are heavily burdened by the latency and energy overheads of data movement between the compute and the memory units. sDTW exhibits low arithmetic intensity and low data reuse on conventional platforms, stemming from poor amortization of the data movement overheads. To improve the performance and energy efficiency of the sDTW algorithm, we propose MATSA, the first Magnetoresistive RAM (MRAM)-based Accelerator for TSA. MATSA leverages Processing-Using-Memory (PUM) based on MRAM crossbars to minimize data movement overheads and exploit parallelism in sDTW. MATSA improves performance by 7.35x/6.15x/6.31x and energy efficiency by 11.29x/4.21x/2.65x over server-class CPU, GPU, and Processing-Near-Memory platforms, respectively.

연구 동기 및 목표

• 고전적인 CPU 및 GPU 플랫폼에서 sDTW의 성능 및 에너지 비효율성 문제를 해결하기 위해, 높은 데이터 이동 오버헤드로 인한 영향을 완화한다.
• 느린 메모리 내 연산으로 인해 여전히 계산에 한계를 가진 Processing-Near-Memory (PNM) 플랫폼의 한계를 극복한다.
• 저지연, 저에너지, 고내구성 특성을 지닌 MRAM을 활용해 sDTW를 위한 메모리 내 계산을 가능하게 하는 전용 가속기를 설계한다.
• 새로운 데이터 매핑 및 파ip라인화된 반대 대각선 실행 방식을 통해 MRAM 크로스바에서 직접 sDTW 계산을 수행함으로써 데이터 이동을 최소화하고 병렬성을 극대화한다.
• 실제 시간 시리즈 데이터셋인 ECG 및 지질학 데이터를 포함한 다양한 워크로드에서 높은 성능과 에너지 효율성을 달성한다.

제안 방법

• 외부 메모리로의 데이터 이동을 제거하기 위해, 계산을 메모리 내에서 직접 수행하는 MRAM 크로스바를 사용해 PUM 기반 가속기인 MATSA를 구현한다.
• sDTW 커널을 MRAM 크로스바의 열을 통해 병렬로 실행할 수 있는 비트단위 부울 연산으로 분해한다.
• 2차원 동적 프rogram밍 행렬을 네 개의 벡터로 표현함으로써 sDTW의 메모리 사용량을 이차원에서 선형으로 감소시키는 새로운 데이터 매핑 전략을 도입한다.
• 동적 프로그래밍 행렬 내 셀 간 의존성을 해결하고 파이프라인 실행을 가능하게 하기 위해 반대 대각선 순서로 계산을 수행한다.
• 각 sDTW 쿼리를 크로스바의 열에 매핑하여, MRAM 크로스바가 제공하는 수천 개의 동시 연산 능력을 최대한 활용한다.
• 실제 MRAM의 지연 및 에너지 모델(예: 5ns 읽기 지연, 50nJ 읽기 에너지)을 반영한 내부 시뮬레이터를 사용해 MATSA의 성능 및 에너지 효율성을 평가한다.

실험 결과

연구 질문

• RQ1 MRAM 기반의 Processing-Using-Memory (PUM) 가 기존 플랫폼에서 메모리에 의존하는 sDTW 작업의 데이터 이동 병목 현상을 제거할 수 있는가?
• RQ2 MATSA의 메모리 내 계산 및 새로운 데이터 매핑 전략이 2차원 동적 프로그래밍 행렬의 메모리 사용량을 어떻게 줄이고 실시간 계산을 가능하게 하는가?
• RQ3 sDTW 워크로드에서 MATSA가 CPU, GPU, FPGA 및 PNM 플랫폼 대비 성능 및 에너지 효율성 측면에서 얼마나 뛰어난가?
• RQ4 MATSA의 반대 대각선 파이프라인 실행 전략이 sDTW 계산 내 데이터 의존성을 어떻게 극복하면서도 병렬성을 극대화하는가?
• RQ5 다양한 실제 시간 시리즈 데이터셋에서 MATSA의 성능 및 에너지 상호보완성은 어떠한가? 그리고 입력 크기가 변화함에 따라 어떻게 확장되는가?

주요 결과

• MATSA는 서버급 CPU(cpuxeon) 대비 sDTW 워크로드에서 7.35× 높은 성능과 11.29× 높은 에너지 효율성을 확보한다.
• MATSA는 GPU 기준 대비 6.15× 높은 성능과 4.21× 높은 에너지 효율성을 보이며, 우수한 확장성과 효율성을 입증한다.
• MATSA는 PNM 플랫폼 UPMEM 대비 성능 6.31× 향상 및 에너지 효율성 2.65× 향상으로, 그들의 계산에 의존하는 한계를 극복한다.
• 성능 및 에너지 효율성 향상의 핵심 요소는 외부 메모리로의 데이터 이동 제거와 MRAM 크로스바를 통한 막대한 병렬성 활용이다.
• MATSA-HPC는 cpuxeon 대비 11.29× 낮은 에너지 소비와 GPU 대비 4.21× 낮은 에너지 소비를 기록하며, 에너지 절감의 주요 원인은 메모리 내 계산에 기인한다.
• MATSA는 임의의 크기의 데이터셋을 지원하며, 인간, ECG, 지질학을 포함한 6종의 실제 데이터셋에서 고정밀도 효율성을 유지하여 광범위한 적용 가능성을 입증한다.