[論文レビュー] Microgrid - The microthreaded many-core architecture

M. Irfan Uddin|arXiv (Cornell University)|Sep 21, 2013

Parallel Computing and Optimization Techniques参考文献 28被引用数 4

ひとこと要約

本稿では、マイクロスレッディングモデルに基づく多数コアアーキテクチャ「Microgrid」を提案する。これは、細粒度でハードウェア管理の並行処理を可能にする、ハイブリッド型フォン・ノイマン／データフロー実行モデルである。ハードウェアスケジューリングスレッド、非同期完了、レジスタベース通信を用いることで、単一命令実行条件下でも1サイクルあたり1命令に近い高スループットと高いレイテンシ耐性を実現する。

ABSTRACT

Traditional processors use the von Neumann execution model, some other processors in the past have used the dataflow execution model. A combination of von Neuman model and dataflow model is also tried in the past and the resultant model is referred as hybrid dataflow execution model. We describe a hybrid dataflow model known as the microthreading. It provides constructs for creation, synchronization and communication between threads in an intermediate language. The microthreading model is an abstract programming and machine model for many-core architecture. A particular instance of this model is named as the microthreaded architecture or the Microgrid. This architecture implements all the concurrency constructs of the microthreading model in the hardware with the management of these constructs in the hardware.

研究の動機と目的

• 大規模な並列処理を実現する上で、従来のフォン・ノイマンモデルとデータフロー・モデルの限界を克服する。
• 一般化されたデータフロー・モデルにおける大規模なマッチング・ストレージの複雑さを、構造的なスレッド・ファミリーを備えたハイブリッド・モデルを導入することで軽減する。
• 動的スレッド生成、同期、通信をハードウェアレベルでネイティブにサポートする多数コアアーキテクチャを設計する。
• ハードウェアマルチスレッディングとメモリ・浮動小数点演算の非同期完了を活用して、効率的なレイテンシ耐性を実現する。
• 最大10,000コアおよび100万スレッドを想定した将来の多数コアシステムに適したスケーラブルで合成可能な実行モデルを提供する。

提案手法

• スレッド内での順次命令実行（フォン・ノイマン）とスレッド実行のデータフロー基づくスケジューリングを組み合わせたハイブリッド実行モデルを採用する。
• ループや関数呼び出しに類似した階層的で合成可能な単位としての「スレッド・ファミリー」を導入し、構造的な並列処理を可能にする。
• 生成、同期、通信といったすべての並行処理構成要素を、専用レジスタ（グローバル、ローカル、共有、依存）を用いてハードウェアで直接実装する。
• 独立したスレッド・ファミリーをコア間で分散し、動的負荷分散とコンテキスト再利用を実現するためのデリゲーション・ネットワークを採用する。
• 1コアあたり同時にアクティブなスレッド数を限定するウィンドウ型実行モデルを採用することで、リソース利用効率を向上させる。
• I/Oを非同期的に管理できる拡張命令セットを備えた専用I/Oコアを設計し、一般用途コアとは分離する。

実験結果

リサーチクエスチョン

• RQ1 ハイブリッド実行モデルは、フォン・ノイマンの単純さとデータフローの並列性をどのように統合し、多数コアのスケーラビリティを向上させることができるか？
• RQ2 多数コアシステムにおいて、細粒度の並行処理と非同期スレッド実行を効果的に管理する最適な方法は何か？
• RQ3 大規模スケールでハードウェア管理のスレッド生成、同期、通信を効率的に実装するにはどうすればよいか？
• RQ4 ソフトウェアスレッドスケジューリングに依存せずに、高レイテンシ耐性を実現するためのアーキテクチャ的メカニズムは何か？
• RQ5 分散型でスケーラブルな多数コア環境において、I/O操作を効率的にオフロードおよび管理するにはどうすればよいか？

主な発見

• マイクロスレッディング・モデルにより、スレッドをハードウェア上の第一級の実体として扱うことで、ソフトウェアのオーバーヘッドを低減し、細粒度でハードウェア管理の並行処理を実現できる。
• メモリおよび浮動小数点演算の非同期完了により、パイplineのフラッシュなしにスレッドを一時停止・再開でき、レイテンシ耐性が向上する。
• レジスタベース通信（グローバル、共有、依存）の使用により、ファミリー内スレッド間での効率的で低レイテンシの同期とデータ交換が可能になる。
• 独立したスレッド・ファミリーはコア間で均等に分散され、ウィンドウサイズ制限（例：5）があるため、スレッドコンテキストの動的再利用と効率的なリソース利用が可能になる。
• 単一命令実行条件下で理論的スループットが1サイクルあたり1命令に近づき、積極的なレイテンシ隠蔽によりRISCの理想に近い性能を達成する。
• 拡張命令セットを備えた専用I/Oコアにより、I/O操作を独立して管理でき、I/Oと一般計算を分離することでシステムのスケーラビリティが向上する。