[論文レビュー] Fusion of Array Operations at Runtime

Mads Ruben Burgdorff Kristensen, Simon Andreas Frimann Lund+2 more|arXiv (Cornell University)|Jan 20, 2016

Embedded Systems Design Techniques参考文献 25被引用数 9

ひとこと要約

本稿では、カスタマイズ可能なコスト関数を用いたグラフ分割問題として融合をモデル化することにより、実行時における配列演算、ループ、コンビネータの統合を統一的なフレームワークで行う「重み付きサブルーチン分割（WSP）」問題を導入する。最適な融合のための分枝限定法アルゴリズムと、JITコンパイルに適した高速な貪欲近似法を提案し、15のベンチマークで2倍〜30倍の高速化を達成した。最適法と近似法との間で性能差は最小限にとどまった。

ABSTRACT

We address the problem of fusing array operations based on criteria such as shape compatibility, data reusability, and communication. We formulate the problem as a graph partition problem that is general enough to handle loop fusion, combinator fusion, and other types of subroutines.

研究の動機と目的

• ループ統合、配列演算統合、コンビネータ統合を、同一の形式的枠組みで統一すること。
• データローカリティ、メモリアクセス、通信、その他の最適化目的を捉える柔軟なコスト関数を用いて、統合意思決定をモデル化すること。
• 高性エネルギー計算におけるJITコンパイルで使用可能な、効率的なアルゴリズム（最適および近似）を開発すること。
• 異なるコストモデルと統合戦略が実世界のベンチマークに与える影響を評価すること。
• 高速な近似アルゴリズムが、最適法に匹敵する大部分の性能向上を達成できることを示すこと。

提案手法

• 頂点がサブルーチンを表し、有向辺が依存関係、無向辺が統合可能性制約を表す混合グラフ上で、統合問題を重み付きサブルーチン分割（WSP）問題として形式化する。
• データアクセス、メモリ使用量、通信をペナルティとする単調なコスト関数を定義し、統合がコストに中立的または有益であるようにする。
• WSPがNP困難であることを証明し、効率的なアルゴリズムの必要性を裏付ける。
• コストの上限に基づく pruning を用いた分枝限定法により、最適な統合パーティションを計算する。
• JITコンパイルあたり20回未満の反復で実行可能な貪欲近似アルゴリズムを設計し、オーバーヘッドを均等化する。
• すべてのアルゴリズムをBohriumフレームワークに統合し、さまざまなコストモデルを用いて15の実世界ベンチマークでの統合を評価した。

実験結果

リサーチクエスチョン

• RQ1 一貫した最適化枠組みの下で、ループ統合、配列演算統合、コンビネータ統合を1つの形式的記述で統合できるか？
• RQ2 カスタマイズ可能なコスト関数の導入が、統合戦略の表現力と性能に与える影響は何か？
• RQ3 分枝限定法による最適統合と、貪欲アルゴリズムによる高速近似との間で、性能とコンパイルオーバーヘッドのトレードオフはどのようなものか？
• RQ4 Max Locality、Max Contract、Robinsonといった異なるコストモデルは、多様なベンチマークにおいて実際にはどのように比較されるか？
• RQ5 近似アルゴリズムは、実世界のワークロードにおいて、最適解に近い性能をどの程度達成できるか？

主な発見

• WSPの定式化により、カスタマイズ可能なコスト関数を備えた単一のグラフ分割モデルとして、ループ、配列、コンビネータの統合が成功裏に統一された。
• 分枝限定法は15のベンチマークのうち10つで、妥当な時間内に最適解を発見し、コンパイル用途での実用性を裏付けた。
• 貪欲近似アルゴリズムは実際の性能で最適法にほぼ匹敵し、最適法と比較して最高ケース（Game of Life）で1.3倍の速度向上差にとどまった。
• 近似アルゴリズムが大部分の性能向上を達成しており、正確性をさらに高めるための最適化は、リターンが急速に減少することが示された。
• Max Contractコストモデルは、他のモデルがデータローカリティを最優先することで統合の機会を損なう場合でも、配列の縮約を最大限に高める独自の優位性を示した。
• 全体として、統合によりデータアクセスが削減され、ベンチマーク全体で2倍〜30倍の性能向上が達成された。コストモデルの違いによる性能差は、大多数のケースで最小限にとどまった。