[論文レビュー] DEW: a fast level 1 cache simulation approach for embedded processors with FIFO replacement policy

Mohammad Shihabul Haque, Jorgen Peddersen+2 more|arXiv (Cornell University)|Mar 8, 2010

Parallel Computing and Optimization Techniques参考文献 16被引用数 15

ひとこと要約

本稿では、FIFO置換ポリシーを用いる組み込みプロセッサ用レベル1キャッシュの高速かつ正確なシミュレーション手法であるDEWを提案する。二項木に基づくキャッシュ表現と最適化された探索アルゴリズムを活用することで、DEWはDinero IVに比べ8〜40倍の高速化を達成しながら、正確なミス率の精度を維持し、必要なキャッシュウェイ比較回数を著しく削減する。

ABSTRACT

Increasing the speed of cache simulation to obtain hit/miss rates enables performance estimation, cache exploration for embedded systems and energy estimation. Previously, such simulations, particularly exact approaches, have been exclusively for caches which utilize the least recently used (LRU) replacement policy. In this paper, we propose a new, fast and exact cache simulation method for the First In First Out(FIFO) replacement policy. This method, called DEW, is able to simulate multiple level 1 cache configurations (different set sizes, associativities, and block sizes) with FIFO replacement policy. DEW utilizes a binomial tree based representation of cache configurations and a novel searching method to speed up simulation over single cache simulators like Dinero IV. Depending on different cache block sizes and benchmark applications, DEW operates around 8 to 40 times faster than Dinero IV. Dinero IV compares 2.17 to 19.42 times more cache ways than DEW to determine accurate miss rates.

研究の動機と目的

• 組み込みシステムにおけるFIFO置換キャッシュ用の高速かつ正確なシミュレーション手法の不足に対処する。
• さまざまな構成を有するレベル1キャッシュのための効率的なパフォーマンス推定とキャッシュ探索を可能にする。
• LURポリシーに限定される既存の正確なシミュレータ（Dinero IVなど）に比べ、シミュレーション時間を短縮する。
• ヒット/ミス率計算の正確性を損なわず、高速なシミュレーションを実現する。

提案手法

• セットサイズ、アソシエイティビティ、ブロックサイズを効率的に符号化できるように、キャッシュ構成を二項木データ構造で表現する。
• アドレス照合時のキャッシュウェイ比較回数を削減する新しい探索アルゴリズムを実装する。
• FIFO置換の構造的性質を活用して、重複するチェックを回避することで、シミュレーションプロセスを最適化する。
• サイクル単位の正確なシミュレーションエンジンと二項木表現を統合し、正確なミス率結果を維持する。
• 標準のベンチマークワークロードおよび複数のキャッシュ構成との互換性を確保する。
• メモリアクセスおよび各メモリ参照あたりの比較回数を削減することで、計算オーバーヘッドを最小限に抑える。

実験結果

リサーチクエスチョン

• RQ1 組み込みプロセッサのレベル1キャッシュにおけるFIFO置換ポリシー用に、正確なキャッシュシミュレーションをどのように高速化できるか？
• RQ2 従来のシミュレータに比べ、二項木表現がシミュレーション速度にどの程度向上効果をもたらすか？
• RQ3 異なるキャッシュブロックサイズおよびベンチマークにおいて、DEWはDinero IVと比較してシミュレーション時間と正確性の点でどのように異なるか？
• RQ4 DEWはDinero IVに比べ、キャッシュウェイ比較回数をどの程度削減しているか？

主な発見

• 特定のベンチマークおよびキャッシュ構成において、DEWはDinero IVに比べ最大40倍の高速化を達成し、最小でも8倍の高速化を実現した。
• 全テスト構成において、DEWはDinero IVよりも著しく高速に動作し、正確なミス率結果を維持した。
• 同じミス率を計算するにあたり、DEWはDinero IVに比べてキャッシュウェイ比較回数を2.17〜19.42倍も削減した。
• ブロックサイズやベンチマークアプリケーションの種類に関わらず、性能向上が一貫しており、堅牢性が確認された。
• 二項木ベースの表現により、正確性や設定の自由度を損なわず、効率的なシミュレーションが可能になった。
• 設計探索において高速かつ正確なキャッシュシミュレーションが不可欠な組み込みシステムにおいて、本手法は特に有効である。