[論文レビュー] Tiramisu: A Code Optimization Framework for High Performance Systems

Riyadh Baghdadi, Jessica M. Ray+5 more|arXiv (Cornell University)|Apr 27, 2018

Parallel Computing and Optimization Techniques被引用数 6

ひとこと要約

Tiramisu は、多面体に基づくコード最適化フレームワークであり、アルゴリズム、スケジューリング、データレイアウト、通信を四段階の中間表現に分離することで、マルチコアCPU、GPU、FPGA、分散システムを含む多様なハイパフォーマンスアーキテクチャ向けに効率的なコード生成を可能にする。Halide に新機能を拡張し、Intel MKL の手動最適化ライブラリと同等またはそれを上回る性能を達成しており、マルチコアシステムでは最大 4 倍の高速化を実現している。

ABSTRACT

This paper introduces Tiramisu, an optimization framework designed to generate efficient code for high-performance systems such as multicores, GPUs, FPGAs, distributed machines, or any combination of these. Tiramisu relies on a flexible representation based on the polyhedral model and introduces a novel four-level IR that allows full separation between algorithms, schedules, data-layouts and communication. This separation simplifies targeting multiple hardware architectures from the same algorithm. We evaluate Tiramisu by writing a set of linear algebra and DNN kernels and by integrating it as a pass in the Halide compiler. We show that Tiramisu extends Halide with many new capabilities, and that Tiramisu can generate efficient code for multicores, GPUs, FPGAs and distributed heterogeneous systems. The performance of code generated by the Tiramisu backends matches or exceeds hand-optimized reference implementations. For example, the multicore backend matches the highly optimized Intel MKL library on many kernels and shows speedups reaching 4x over the original Halide.

研究の動機と目的

• マルチコアCPU、GPU、FPGA、分散クラスタを含む異種アーキテクチャ向けに、ポータブルで高パフォーマンスなコードを記述する課題に対処すること。
• 既存のコード生成フレームワークにおけるアルゴリズム、スケジューリング、データレイアウト、通信の密接な結合を克服すること。
• 多様なアーキテクチャ across で手動最適化実装と同等またはそれを上回る性能を達成する自動コード生成を可能にすること。
• バックエンドパスとしての統合を通じて、Halide コンパイラーに新たな最適化機能を拡張すること。

提案手法

• 正確な依存解析を伴うデータ並列計算を表現するための柔軟な多面体モデル表現の採用。
• アルゴリズム、スケジューリング、データレイアウト、通信を明示的に分離する、画期的な四段階の中間表現（IR）の導入。
• 四段階のIRを用いてアルゴリズム的論理と低レベルの実装詳細を分離し、最適化と再利用を独立して行えるようにすること。
• スケジューリングとデータレイアウトをアルゴリズムから独立して表現することで、複数のターゲットアーキテクチャ向けのコード生成を可能にすること。
• Halide コンパイラー内でのパスとしてのTiramisu統合により、Halide の既存インfraを活用するとともに、その機能を拡張すること。
• 自動スケジューリングとレイアウト変換を通じて、マルチコア、GPU、FPGA、分散異種システム向けに最適化されたコードを生成すること。

実験結果

リサーチクエスチョン

• RQ1 統一されたフレームワークは、マルチコアCPU、GPU、FPGA、分散システムを含む多様なアーキテクチャ向けに高パフォーマンスコードを生成できるか？
• RQ2 アルゴリズム、スケジューリング、データレイアウト、通信を分離する四段階のIRは、コードのポータビリティとパフォーマンス向上にどの程度効果的か？
• RQ3 Tiramisu は、マルチコアシステムにおける Intel MKL のような手動最適化ライブラリと同等またはそれ以上のパフォーマンスを達成できるか？
• RQ4 Tiramisu は、Halide コンパイラーのコード生成および最適化機能をどの程度拡張できるか？
• RQ5 Tiramisu の自動最適化パイプラインを用いることで、元の Halide 実装と比較してどの程度のパフォーマンス向上が達成できるか？

主な発見

• Tiramisu は、同じアルゴリズム的仕様からマルチコア、GPU、FPGA、分散異種システム向けのコードを生成できる。
• Tiramisu のマルチコアバックエンドは、多くの線形代数およびDNNカーネルにおいて、極めて最適化された Intel MKL ライブラリと同等のパフォーマンスを達成している。
• Tiramisu は、マルチコアシステムにおいて、元の Halide 実装と比較して最大 4 倍の高速化を達成している。
• Halide コンパイラー内でのパスとしてのTiramisu統合により、新しいハードウェアターゲットと最適化戦略のサポートがHalideの機能に拡張された。
• 四段階のIRにより、完全な責任分離が実現され、多様なアーキテクチャ間でのコード生成と保守が簡素化された。
• Tiramisu バックエンドが生成するコードは、評価されたすべてのプラットフォームで、手動最適化されたリファレンス実装と同等またはそれ以上のパフォーマンスを達成している。