[論文レビュー] Proficient Pair of Replacement Algorithms on L1 and L2 Cache for Merge Sort

Richa Gupta, Sanjiv Tokekar|arXiv (Cornell University)|Mar 22, 2010

Advanced Data Storage Technologies参考文献 23被引用数 5

ひとこと要約

本稿では、マージソート向けに新規の二段階キャッシュ置換戦略を提案し、L1キャッシュにパーティションベースの置換（PBR_L1）アルゴリズムを導入するとともに、L2キャッシュをFIFOで最適化する。シミュレーションの結果、PBR_L1はさまざまなキャッシュサイズにおいてFIFOに比べ1.7%から44%の性能向上を達成し、分析されたワークロードにおいてLRUやLFUを上回る性能を発揮した。

ABSTRACT

Memory hierarchy is used to compete the processors speed. Cache memory is the fast memory which is used to conduit the speed difference of memory and processor. The access patterns of Level 1 cache (L1) and Level 2 cache (L2) are different, when CPU not gets the desired data in L1 then it accesses L2. Thus the replacement algorithm which works efficiently on L1 may not be as efficient on L2. Similarly various applications such as Matrix Multiplication, Web, Fast Fourier Transform (FFT) etc will have varying access pattern. Thus same replacement algorithm for all types of application may not be efficient. This paper works for getting an efficient pair of replacement algorithm on L1 and L2 for the algorithm Merge Sort. With the memory reference string of Merge Sort, we have analyzed the behavior of various existing replacement algorithms on L1. The existing replacement algorithms which are taken into consideration are: Least Recently Used (LRU), Least Frequently Used (LFU) and First In First Out (FIFO). After Analyzing the memory reference pattern of Merge Sort, we have proposed a Partition Based Replacement algorithm (PBR_L1)) on L1 Cache. Furthermore we have analyzed various pairs of algorithms on L1 and L2 respectively, resulting in finding a suitable pair of replacement algorithms. Simulation on L1 shows, among the considered existing replacement algorithms FIFO is performing better than others. While the proposed replacement algorithm PBR_L1 is working about 1.7% to 44 % better than FIFO for various cache sizes.

研究の動機と目的

• メモリ階層における異なるキャッシュレベルで単一の置換アルゴリズムが非効率である問題を解決すること。
• マージソートのメモリアクセスパターンを分析し、L1およびL2キャッシュに最適な置換戦略を同定すること。
• マージソート実行時のL1キャッシュ動作に特化した、特別に設計された置換アルゴリズム（PBR_L1）を設計すること。
• マージソートのアクセスパターンに特に適合するようにチューニングされた、L1用およびL2用の効率的な置換アルゴリズムのペアを特定すること。
• L1およびL2キャッシュの異なるアクセス特性を活用することで、ソーティングワークロードにおけるキャッシュ性能を向上させること。

提案手法

• マージソートのメモリ参照文字列を分析し、L1およびL2レベルでのアクセスパターンを特徴づけた。
• シミュレーションを用いて、L1キャッシュにおける既存の置換アルゴリズム（LRU、LFU、FIFO）の性能を評価した。
• アクセス頻度と再訪問の新鮮さに基づいてデータアクセスをパーティションにグループ化する、L1キャッシュ向けのパーティションベースの置換（PBR_L1）アルゴリズムを提案した。
• シミュレーション環境での優れた性能を示したため、L2キャッシュの置換アルゴリズムとしてFIFOを選定した。
• 複数のキャッシュサイズおよび構成をシミュレートし、L1におけるPBR_L1とLRU、LFU、FIFOの性能を比較した。
• 性能を基準に、最適なペアとしてPBR_L1（L1用）とFIFO（L2用）を特定した。

実験結果

リサーチクエスチョン

• RQ1 マージソートのメモリアクセスパターン下で、従来の置換アルゴリズム（LRU、LFU、FIFO）はL1キャッシュでどの程度の性能を示すか？
• RQ2 マージソートのL1キャッシュにおけるアクセス特性をより効果的に活用できるカスタム置換アルゴリズムを設計できるか？
• RQ3 マージソートにおいて、L1およびL2キャッシュ間で最も効果的な置換アルゴリズムのペアは何か？
• RQ4 提案されたPBR_L1アルゴリズムは、キャッシュミス率または性能の観点で、既存のアルゴリズムを上回るか？
• RQ5 PBR_L1 + FIFOペアの性能は、さまざまなL1キャッシュサイズにおいてどのように変化するか？

主な発見

• 既存のアルゴリズムの中で、FIFOがマージソートワークロードにおけるL1キャッシュで最も優れた性能を示した。
• 提案されたPBR_L1アルゴリズムは、さまざまなL1キャッシュサイズにおいてFIFOに比べ1.7%から44%の性能向上を達成した。
• シミュレーション環境において、PBR_L1は与えられたマージソートアクセスパターン下でLRUおよびLFUを上回った。
• L1にPBR_L1、L2にFIFOを組み合わせたペアが、マージソートにおいて最も効率的なペアとして浮き彫りになった。
• PBR_L1の性能向上は、中程度から大容量のキャッシュサイズで最も顕著であり、スケーラビリティの利点が示された。