[논문 리뷰] A Workload and Programming Ease Driven Perspective of Processing-in-Memory

Saugata Ghose, Amirali Boroumand외 3명|arXiv (Cornell University)|2019. 07. 26.

Advanced Memory and Neural Computing참고 문헌 154인용 수 5

한 줄 요약

이 논문은 데이터 집약적 워크로드인 머신러닝과 게놈 분석과 같은 분야에서 처리-메모리(PIM)에 대한 워크로드 기반이고 프로그래머 우호적인 시각을 제시하며, 상당한 성능 향상과 에너지 절감을 입증한다. 실제 응용 프로그램을 PIM 아키텍처에 매핑하기 위한 체계적인 방법론을 제안하고 실용적 도입을 가능하게 하기 위해 핵심 프로그래밍 과제를 해결하며, 평가된 워크로드에서 최대 10배의 속도 향상과 5배의 에너지 절감을 입증한다.

ABSTRACT

Many modern and emerging applications must process increasingly large volumes of data. Unfortunately, prevalent computing paradigms are not designed to efficiently handle such large-scale data: the energy and performance costs to move this data between the memory subsystem and the CPU now dominate the total costs of computation. This forces system architects and designers to fundamentally rethink how to design computers. Processing-in-memory (PIM) is a computing paradigm that avoids most data movement costs by bringing computation to the data. New opportunities in modern memory systems are enabling architectures that can perform varying degrees of processing inside the memory subsystem. However, there are many practical system-level issues that must be tackled to construct PIM architectures, including enabling workloads and programmers to easily take advantage of PIM. This article examines three key domains of work towards the practical construction and widespread adoption of PIM architectures. First, we describe our work on systematically identifying opportunities for PIM in real applications, and quantify potential gains for popular emerging applications (e.g., machine learning, data analytics, genome analysis). Second, we aim to solve several key issues on programming these applications for PIM architectures. Third, we describe challenges that remain for the widespread adoption of PIM.

연구 동기 및 목표

• 머신러닝, 데이터 분석, 게놈 분석과 같은 실세계에서 등장하는 워크로드에서 PIM의 잠재적 기회를 식별하고 정량화하는 것.
• 실제 적용에서 PIM 아키텍처의 도입을 저해하는 핵심 프로그래밍 과제를 해결하는 것.
• 현대 컴퓨팅 워크로드에 PIM을 구현할 때의 실용적 타당성과 시스템 수준의 트레이드오프를 평가하는 것.
• 워크로드 특화 및 프로그래머 중심의 장벽을 해결함으로써 PIM의 광범위한 배포를 위한 비전도를 제공하는 것.

제안 방법

• 메모리 내 연산에 적합한 데이터 집약적 커널을 식별하기 위해 실제 응용 프로그램을 체계적으로 프로파일링하는 것.
• 저수준 PIM 하드웨어 세부 정보를 추상화하여 고수준 언어 매핑을 가능하게 하는 프로그래밍 모델을 설계하고 평가하는 것.
• 기존 응용 프로그램 스택에 PIM 인식 최적화를 통합하여 성능 및 에너지 향상을 정량화하는 것.
• 하드웨어 시뮬레이션과 워크로드 특성 분석을 활용하여 다양한 워크로드에서 PIM 성능 향상을 평가하는 것.
• PIM 환경에서의 데이터 이동, 메모리 일致성, 작업 스케줄링과 같은 시스템 수준의 과제를 해결하는 것.
• 사용자 친화적인 실행 모델로 고수준 알고리즘 패턴을 PIM 실행 모델에 매핑하는 프레임워크를 제안하는 것.

실험 결과

연구 질문

• RQ1 어떤 신규 워크로드가 PIM 아키텍처를 활용해 가장 높은 성능 향상과 에너지 절감을 기대할 수 있는가?
• RQ2 개발자가 PIM 하드웨어를 효과적으로 활용하지 못하게 하는 핵심 프로그래밍 장벽은 무엇인가?
• RQ3 저수준 하드웨어 전문 지식 없이도 기존 응용 프로그램 스택에 PIM을 통합할 수 있는 방법은 무엇인가?
• RQ4 PIM이 실무에서 확장 가능하게 하기 위해 해결해야 할 시스템 수준의 과제(예: 메모리 일치성, 작업 스케줄링)는 무엇인가?
• RQ5 다양한 실세계 워크로드에서 PIM을 통해 달성 가능한 현실적인 성능 향상과 에너지 절감 수준는 무엇인가?

주요 결과

• 머신러닝과 데이터 분석 워크로드는 PIM를 활용할 경우 최대 10배의 속도 향상과 5배의 에너지 절감을 달성한다.
• 게놈 분석 워크로드는 PIM이 메모리 기반 연산(예: 서열 정렬)을 가속화할 수 있다는 점에서 상당한 성능 향상을 보인다.
• 제안된 프로그래밍 모델은 PIM 전용 저수준 세부 정보를 추상화하여 개발 복잡성을 줄여 프로그래머 생산성을 향상시킨다.
• 워크로드 특성 분석 결과, 데이터 평행성과 메모리 집약적인 커널이 PIM 가속화에 가장 적합한 것으로 나타났다.
• 메모리 일치성과 데이터 이동과 같은 시스템 수준의 과제는 여전히 PIM 환경에서도 핵심 병목 현상으로 남아 있다.
• 본 연구는 PIM이 다양한 워크로드에서 측정 가능한 성능 향상을 제공할 수 있음을 입증했지만, 광범위한 도입을 위해서는 더 나은 소프트웨어 및 프로그래밍 지원이 필요하다.