[論文レビュー] Fully Symbolic Analysis of Loop Locality: Using Imaginary Reuse to Infer Real Performance

Yifan Zhu, Yekai Pan+2 more|arXiv (Cornell University)|Mar 10, 2026

Parallel Computing and Optimization Techniques被引用数 0

ひとこと要約

この論文は、コールドスタートを扱うための imaginary reuses を用いた完全に象徴的な locality 理論を提案し、アフィine ループと広範なカーネル集合に対するキャッシュ関連の多項式を導出して高速なキャッシュミス予測を可能にする。二-pass コンパイラ分析を提示し、キャッシュシミュレーションに対する高い精度を実証する。

ABSTRACT

This paper presents a new theory of locality and its compiler support. The theory is fully symbolic and derives locality as polynomials, and the compiler analysis supports affine loop nests. They derive cache-performance scaling in quadratic and reciprocal expressions and are more general and precise than empirical scaling rules. Evaluated on a benchmark suite of 41 scientific kernels and tensor operations, the compiler requires an average of 41 seconds to derive the locality polynomials. After derivation, predicting the cache miss count for any given input size and cache configuration takes less than a millisecond. Across all tests--with and without loop fusion--the accuracy in the data movement prediction is 99.6\%, compared to simulated set-associative L1 data cache.

研究の動機と目的

• 機械とプログラムパラメータ全体にスケールする locality の完全かつ代数的特徴付けを動機づける。
• アフィンループのネストに対してキャッシュサイズとミスの多項式を生み出す象徴的フレームワークを開発する。
• コールドスタートミスを解決し Infinite Repeat の下で線形時間の導出を可能にするための imaginary reuses を導入する。
• Affine プログラムをパラメトリック多面体へ変換し RI 分布を生成するコンパイラワークフローを提供する。
• 41 の科学カーネルとテンソル演算での精度と性能を評価し、ループ融合を考慮する。

提案手法

• RI（Reuse Intervals）を定義し、RI 分布から Denning Recursion を用いてキャッシュ多項式を導出する。
• Imaginary Reuses を用いた Infinite Repeat を導入し、初触アクセスの処理と発散を回避する。
• Working-set Correctness と RI Sum Invariance を証明して象徴的結果の妥当性を検証する。
• 整数集合計画法（Integer Set Programming）と Barvinok counting を用いて affine ループをパラメトリック多面体へ変換し、RI 分布を部分的に準多項式として得る。
• LRU キャッシュの挙動を近似的にミス比を working-set ベースの多項式へ写像し、コールドスタートミスを補正する。
• MLIR ベースの象徴的 locality フレームワークの中で二-pass コンパイラ分析を正当化する。

Figure 8 . Tensor Contraction Kernel Miss Count Curves

実験結果

リサーチクエスチョン

• RQ1 アフィンループに対して locality をキャッシュサイズと RI 分布の多項式として代数的に特徴付けることは可能か。
• RQ2 Imaginary reuses はコールドスタート問題を解決し、正しい working-set および miss-polynomial の予測を与えるか。
• RQ3 locality 多項式の導出コストはどれくらいで、ハードウェアシミュレーションと比較してどれくらい正確か。
• RQ4 Affine MLIR 表現を用いて Barvinok counting で完全な RI 分布を計算するにはどうするか。
• RQ5 ループ融合は予測データ移動と locality 多項式にどのような影響を与えるか。

主な発見

RI	P(ri)	m (ri)	Cold Miss Ratio	c (ri)
0	-	-	1	-
1	1	1/4	3/4	-	1
2	3	1/4-1/(32n)	1/2+1/(32n)	-	3
3	4	7/32	9/32+1/(32n)	-	5
4	4n-28	1/32-1/(32n)	1/4+1/(16n)	-	9n/8-47/8-31/(32n)
5	4n	7/32	1/32+1/(16n)	-	9n/8+9/8+25/(32n)
6*	4n^{2}-28n	1/32	3/(32n)	1/(32n)	n^{2}/8+3n/8-7/8+25/(32n)
7*	4n^{3}-4n^{2}+4n-28	3/(32n)	3/(32n)	2/(32n)	3n^{2}/8-n/8+9/8-31/(32n)
8*	4n^{3}-32n+3	1/(32n)	3/(32n)	3/(32n)	3n^{2}/8

• RI 分布から新しい代数的 locality 理論を用いてミス多項式を線形時間で導出できる。
• Imaginary reuses はコールドスタートのジレンマを解決し Infinite Repeat の下で Denning Recursion の正しさを維持する。
• RI Sum Invariance は RI 値と部分の整合性を検証する実用的な象徴的テストを提供する。
• 41 のカーネルとテンソル演算に対して、セットアソシアティブ L1 シミュレーションと比較して高い精度でキャッシュミスを予測（データ移動予測最大99.6％）する。
• ループ融合は locality 多項式とスケーリングに影響を与え、融合と未融合の構成を比較するフレームワークの能力を示す。

Figure 9 . Prediction error across 30 Polybench benchmarks under varying cache configurations. Columns represent fully associative (FA) and 12-way associative (12WA) caches at different sizes. The cell color reflects the amount of prediction error, while the digits in each cell indicate the simulate