[論文レビュー] A Workload and Programming Ease Driven Perspective of Processing-in-Memory

Saugata Ghose, Amirali Boroumand+3 more|arXiv (Cornell University)|Jul 26, 2019

Advanced Memory and Neural Computing参考文献 154被引用数 5

ひとこと要約

本論文は、ワークロード駆動型かつプログラマーにやさしいプロセッシング・イン・メモリ（PIM）の視点を提示し、機械学習やゲノム解析のようなデータ集約的ワークロードで顕著なパフォーマンスおよびエネルギー効率の向上を同定した。実アプリケーションをPIMアーキテクチャにマッピングする体系的な手法を提案し、実用的導入を可能にするために重要なプログラミング課題に対処した。評価されたワークロードでは最大10倍の高速化と5倍のエネルギー削減を達成した。

ABSTRACT

Many modern and emerging applications must process increasingly large volumes of data. Unfortunately, prevalent computing paradigms are not designed to efficiently handle such large-scale data: the energy and performance costs to move this data between the memory subsystem and the CPU now dominate the total costs of computation. This forces system architects and designers to fundamentally rethink how to design computers. Processing-in-memory (PIM) is a computing paradigm that avoids most data movement costs by bringing computation to the data. New opportunities in modern memory systems are enabling architectures that can perform varying degrees of processing inside the memory subsystem. However, there are many practical system-level issues that must be tackled to construct PIM architectures, including enabling workloads and programmers to easily take advantage of PIM. This article examines three key domains of work towards the practical construction and widespread adoption of PIM architectures. First, we describe our work on systematically identifying opportunities for PIM in real applications, and quantify potential gains for popular emerging applications (e.g., machine learning, data analytics, genome analysis). Second, we aim to solve several key issues on programming these applications for PIM architectures. Third, we describe challenges that remain for the widespread adoption of PIM.

研究の動機と目的

• 機械学習、データ分析、ゲノム解析のような実世界の新興ワークロードにおいて、PIMの活用機会を同定および定量すること。
• 実際のPIMアーキテクチャの導入を妨げる主なプログラミング課題に対処すること。
• PIMを現代のコンピューティングワークロードに導入する際の実用的妥当性およびシステムレベルのトレードオフを評価すること。
• ワークロード固有の要件とプログラマー中心の障壁を両方解決することで、PIMの広範な展開に向けたロードマップを提供すること。

提案手法

• 実アプリケーションを体系的にプロファイリングし、メモリ内計算に適したデータ集約的カーネルを同定する。
• 低レベルのPIMハードウェア詳細を抽象化するプログラミングモデルを設計・評価し、高水準言語へのマッピングを可能にする。
• 既存のアプリケーションスタックにPIMに最適化された最適化を統合することで、パフォーマンスおよびエネルギー改善を定量的に評価する。
• ハードウェアシミュレーションとワークロード特徴化を用いて、多様なワークロードにおけるPIMの利得を評価する。
• PIM環境におけるデータ移動、メモリ一貫性、タスクスケジューリングなどのシステムレベルの課題に対処する。
• 高水準のアルゴリズム的パターンをPIM実行モデルにマッピングするフレームワークを提案し、使いやすさを向上させる。

実験結果

リサーチクエスチョン

• RQ1 PIMアーキテクチャで加速された場合、どの新興ワークロードが最も顕著なパフォーマンスおよびエネルギー効率の向上を示すか？
• RQ2 開発者がPIMハードウェアを効果的に活用できない主なプログラミング障壁は何か？
• RQ3 低レベルのハードウェア知識が不要な状態で、PIMを既存のアプリケーションスタックにどのように統合できるか？
• RQ4 PIMが実際の環境でスケーリングするにあたり、解決すべきシステムレベルの課題（例：メモリ一貫性、タスクスケジューリング）は何か？
• RQ5 多様な実世界のワークロードにおいて、PIMが達成可能な現実的なパフォーマンスおよびエネルギー改善はどの程度か？

主な発見

• 機械学習およびデータ分析ワークロードは、PIMで加速することで最大10倍の高速化と5倍のエネルギー削減を達成した。
• ゲノム解析ワークロードは、PIMがメモリバウンド演算（例：配列アラインメント）を高速化できる能力のおかげで顕著な向上を示した。
• 提案されたプログラミングモデルは、PIM固有の低レベルの詳細を抽象化することで開発の複雑さを軽減し、プログラマーの生産性を向上させた。
• ワークロード特徴化の結果、データ並列的かつメモリ集約的なカーネルがPIM加速に最も適していることが明らかになった。
• メモリ一貫性やデータ移動といったシステムレベルの課題は、PIMを導入しても依然として主要なボトル neck であることが分かった。
• 本研究では、PIMが多様なワークロードで測定可能な利得を提供することが実証されたが、広範な導入にはソフトウェアおよびプログラミング支援の向上が不可欠であることが示された。