[論文レビュー] Renewing computing paradigms for more efficient parallelization of single-threads

János Végh|arXiv (Cornell University)|Feb 22, 2018

Parallel Computing and Optimization Techniques参考文献 24被引用数 3

ひとこと要約

この論文は、単一スレッド性能の停滞を克服するため、バーナウムアーキテクチャを再考することで、計算パラダイムの根本的見直しを提案する。拡張された計算モデルを導入することで、アーキテクチャ的およびソフトウェアスタックの革新を通じて、より高いスループット、簡素化されたハードウェア、および向上したリアルタイム動作を実現する。伝統的なマルチコアスケーリングに依存せずに、単一スレッドワークロードの並列化をより効率的に行うための新たな道筋を提示する。

ABSTRACT

Computing is still based on the 70-years old paradigms introduced by von Neumann. The need for more performant, comfortable and safe computing forced to develop and utilize several tricks both in hardware and software. Till now technology enabled to increase performance without changing the basic computing paradigms. The recent stalling of single-threaded computing performance, however, requires to redesign computing to be able to provide the expected performance. To do so, the computing paradigms themselves must be scrutinized. The limitations caused by the too restrictive interpretation of the computing paradigms are demonstrated, an extended computing paradigm introduced, ideas about changing elements of the computing stack suggested, some implementation details of both hardware and software discussed. The resulting new computing stack offers considerably higher computing throughput, simplified hardware architecture, drastically improved real-time behavior and in general, simplified and more efficient computing stack.

研究の動機と目的

• 半世紀にわたるハードウェア進歩にもかかわらず、単一スレッド性能の停滞に取り組むこと。
• 伝統的なバーナウム計算パラダイムの厳密な解釈がもたらす制限を特定すること。
• 単一スレッドワークロードの並列化をより効率的に行える再定義された計算モデルを提案すること。
• スループットおよびリアルタイム応答性の向上を図るため、ハードウェアおよびソフトウェアスタックの両方を再設計すること。
• パラダイムの転換が、簡素化され、より効率的で、高性能な計算システムをもたらす可能性があることを示すこと。

提案手法

• 命令実行を厳密な順次制御フローから分離する拡張された計算パラダイムの導入。
• プロセッサの役割を、単一スレッド実行モデル内での複数の独立した計算ストリームを処理できるように再定義すること。
• 従来のスレッド管理を必要としない、細粒度で予測実行可能な計算ユニットのハードウェア抽象化の提案。
• アプリケーションレベルでの並列性を明示的かつ軽量な計算抽象化を通じて露呈するソフトウェアスタックの設計。
• データフロー駆動実行を可能にし、同期のオーバーヘッドを低減するため、計算ユニット間のメッセージパッシングモデルの利用。
• キャッシュ一貫性の複雑さを低減し、データ局所性を向上させるための簡素化されたメモリモデルの実装。

実験結果

リサーチクエスチョン

• RQ1 クロック周波数やコア数の増加に依存せずに、単一スレッド性能をどのように効果的に刷新できるか？
• RQ2 単一スレッドワークロードの効率的並列化を実現するためには、どのようなアーキテクチャ的およびソフトウェア的変更が必要か？
• RQ3 再定義された計算パラダイムによって、ハードウェアの複雑さをどれほど低減しつつ、スループットとリアルタイム動作を向上できるか？
• RQ4 従来のバーナウム制約をどのように緩和することで、より柔軟でスケーラブルな実行モデルを可能にできるか？
• RQ5 スレッドベースの実行からデータフローに基づく実行への移行が、システムのパフォーマンスと信頼性に与える影響は何か？

主な発見

• 提案されたパラダイムは、従来の単一スレッド実行と比較して、著しく高い計算スループットを実現できる。
• 複雑なキャッシュ一貫性およびスレッドスケジューリング機構の排除により、ハードウェアの複雑さが大幅に低減される。
• 計算ユニットの予測可能で低遅延な実行により、リアルタイム動作が著しく向上する。
• 共有状態や同期プリミティブへの依存を減らすことで、ソフトウェア開発およびシステム検証の両方が簡素化される。
• アプリケーションレベルでのスレッド化を必要とせず、単一スレッドコードの効率的で細粒度の並列化が可能になる。
• 実装の詳細を通じて、性能の向上とリソースオーバーヘッドの低減が実証された。