[论文解读] A Workload and Programming Ease Driven Perspective of Processing-in-Memory

Saugata Ghose, Amirali Boroumand+3 more|arXiv (Cornell University)|Jul 26, 2019

Advanced Memory and Neural Computing参考文献 154被引用 5

一句话总结

本文從工作負載驅動且程式設計者友善的觀點探討處理器內存（PIM），在機器學習與基因組分析等數據密集型工作負載中，識別出顯著的效能與能耗提升。論文提出一套系統性方法，將實際應用映射至PIM架構，並解決關鍵的程式設計挑戰，以促進實際應用，所評估的工作負載中，效能最高可提升10倍，能耗降低5倍。

ABSTRACT

Many modern and emerging applications must process increasingly large volumes of data. Unfortunately, prevalent computing paradigms are not designed to efficiently handle such large-scale data: the energy and performance costs to move this data between the memory subsystem and the CPU now dominate the total costs of computation. This forces system architects and designers to fundamentally rethink how to design computers. Processing-in-memory (PIM) is a computing paradigm that avoids most data movement costs by bringing computation to the data. New opportunities in modern memory systems are enabling architectures that can perform varying degrees of processing inside the memory subsystem. However, there are many practical system-level issues that must be tackled to construct PIM architectures, including enabling workloads and programmers to easily take advantage of PIM. This article examines three key domains of work towards the practical construction and widespread adoption of PIM architectures. First, we describe our work on systematically identifying opportunities for PIM in real applications, and quantify potential gains for popular emerging applications (e.g., machine learning, data analytics, genome analysis). Second, we aim to solve several key issues on programming these applications for PIM architectures. Third, we describe challenges that remain for the widespread adoption of PIM.

研究动机与目标

• 識別並量化在機器學習、資料分析與基因組分析等真實世界新興工作負載中，PIM的潛在機會。
• 解決實務上阻礙PIM架構廣泛採用之關鍵程式設計挑戰。
• 評估在現代計算工作負載中部署PIM的實際可行性與系統層級的權衡。
• 透過解決工作負載特定與程式設計者導向的障礙，提供PIM廣泛部署的路徑圖。

提出的方法

• 系統性地分析實際應用，識別適合內存運算的資料密集型核心。
• 設計並評估一種程式設計模型，抽象化低階PIM硬體細節，以支援高階語言映射。
• 透過整合PIM感知優化至現有應用堆疊，量化效能與能耗改善。
• 使用硬體模擬與工作負載特徵分析，評估PIM在多樣化工作負載中的效益。
• 解決PIM環境中的系統層級挑戰，如資料搬移、記憶體一致性與工作排程。
• 提出一個框架，將高階演算法模式映射至PIM執行模型，以提升易用性。

实验结果

研究问题

• RQ1 哪些新興工作負載在使用PIM架構加速時，能獲得最顯著的效能與能耗提升？
• RQ2 哪些關鍵的程式設計障礙會阻止開發者有效利用PIM硬體？
• RQ3 如何在不需低階硬體知識的情況下，將PIM整合至現有應用堆疊？
• RQ4 PIM在實務中擴展時，必須解決哪些系統層級挑戰（例如資料一致性、工作排程）？
• RQ5 在多樣化的真實世界工作負載中，PIM所能實現的實際效能與能耗改善為何？

主要发现

• 機器學習與資料分析工作負載在使用PIM加速時，最高可達10倍效能提升與5倍能耗降低。
• 基因組分析工作負載因PIM能加速記憶體受限運算（如序列比對）而獲得顯著效益。
• 所提出的程式設計模型透過抽象化PIM專屬的低階細節，降低開發複雜度，提升程式設計者生產力。
• 工作負載特徵分析顯示，資料平行與記憶體密集型核心最適合PIM加速。
• 即使採用PIM，記憶體一致性與資料搬移等系統層級挑戰仍是關鍵瓶頸。
• 本研究顯示PIM可在多樣化工作負載中帶來可量化的效益，但廣泛採用仍需更佳的軟體與程式設計支援。