[論文レビュー] A Cache Reconfiguration Approach for Saving Leakage and Refresh Energy in Embedded DRAM Caches

Sparsh Mittal|arXiv (Cornell University)|Sep 26, 2013

Parallel Computing and Optimization Techniques参考文献 22被引用数 11

ひとこと要約

本論文は、非アクティブなキャッシュ領域を個別に無効化し、アクティブ領域でのみ有効なデータをリフレッシュすることで、リークエージとリフレッシュエネルギーの両方を削減する、組み込みDRAM（eDRAM）キャッシュ向けの動的キャッシュ再構成技術を提案する。40 µsのリフレッシュ周期におけるベースラインeDRAMキャッシュと比較して平均22.8%のエネルギー節約を達成し、リフレッシュエネルギー削減技術の先駆けた手法「Refrint polyphase-valid（RPV）」よりもエネルギー効率で9.3ポイント、パフォーマンス向上で3.8ポイント優れている。

ABSTRACT

In recent years, the size and leakage energy consumption of large last level caches (LLCs) has increased. To address this, embedded DRAM (eDRAM) caches have been considered which have lower leakage energy consumption; however eDRAM caches consume a significant amount of energy in the form of refresh energy. In this paper, we present a technique for saving both leakage and refresh energy in eDRAM caches. We use dynamic cache reconfiguration approach to intelligently turn-off part of the cache to save leakage energy and refresh only valid data of the active (i.e. not turned-off) cache to save refresh energy. We evaluate our technique using an x86-64 simulator and SPEC2006 benchmarks and compare it with a recently proposed technique for saving refresh energy, named Refrint. The experiments have shown that our technique provides better performance and energy efficiency than Refrint. Using our technique, for a 2MB LLC and 40 micro-seconds eDRAM refresh period, the average saving in energy over eDRAM baseline (which periodically refreshes all cache lines) is 22.8%.

研究の動機と目的

• 大容量の最後レベルキャッシュ（LLC）の増加するエネルギー消費を是正すること、特に短い保持期間（例：40 µs）に起因するeDRAMベース設計における高いリークとリフレッシュエネルギー消費に焦点を当てる。
• eDRAMキャッシュはSRAMに比べてリークが低いが、短い保持期間のためリフレッシュ操作に総エネルギーの最大70%を消費するという制限を克服する。
• オフラインプロファイリングや手動チューニングを必要とせず、実行時においてソフトウェア駆動でキャッシュを動的に再構成する技術を開発する。
• アクティブキャッシュ利用の最適化、リーク低減、リフレッシュエネルギー削減のバランスを知的にとることで、エネルギー効率とパフォーマンスの両方を向上させる。
• 技術スケーリングがさらに進む環境下で保持期間が短くなる中で、eDRAMキャッシュがSRAM LLCの代替として実用的かつエネルギー効率の良い選択肢となり得ることを示す。

提案手法

• 実行時におけるプログラム動作のモニタリングと、さまざまなキャッシュ構成におけるエネルギー消費の推定を、動的プロファイリングによりリアルタイムで実施する。
• 予測されたエネルギー節約に基づき、定期的に最もエネルギー効率の高いキャッシュ構成に切り替えるための軽量なハードウェア支援アルゴリズムを採用する。
• 非アクティブなキャッシュバンクを無効化（オフ）することでリークエネルギーを低減するキャッシュ再構成メカニズムを適用するが、データアクセスには常にアクティブなバンクのみを維持する。
• リフレッシュ操作をアクティブ領域に限定することでリフレッシュエネルギーを削減し、その結果、より小さな領域でのリフレッシュサイクル数が減少する。
• オフチップメモリトラフィックの最小化によりパフォーマンスを維持し、MPKI（1000命令あたりのミス数）の平均増加は0.42にとどまるため、キャッシュミス率への影響は極めて小さい。
• エネルギー推定時にメインメモリを含むプロセッサ全体のシステムを考慮することで、キャッシュ単体を超えた包括的なエネルギー最適化を可能にする。

実験結果

リサーチクエスチョン

• RQ1 動的キャッシュ再構成により、パフォーマンス劣化を伴わずにeDRAMキャッシュのリークエネルギーとリフレッシュエネルギーをどれだけ削減できるか？
• RQ2 リフレッシュエネルギー削減の最先端技術の一つであるRefrint polyphase-valid（RPV）と比較して、本手法はエネルギー節約とパフォーマンスの両面でどの程度優れているか？
• RQ3 eDRAMのリフレッシュ周期が短くなる（例：40 µs vs. 30 µs）に伴い、本手法のエネルギー効率はどのように変化するか？（将来的な技術スケーリングを反映）
• RQ4 定期的なキャッシュ再構成によるパフォーマンスへの影響、特にオフチップメモリアクセス（MPKI）の増加はどの程度か？
• RQ5 リフレッシュエネルギーを考慮した場合、保持期間が短くなる中でeDRAMキャッシュとSRAMキャッシュのエネルギー効率はどのように比較されるか？

主な発見

• 40 µsのリフレッシュ周期におけるベースラインeDRAMキャッシュと比較して、本手法は平均22.8%のエネルギー節約を達成した。RPVは13.5%にとどまるため、顕著な優位性を示した。
• ベースラインeDRAMキャッシュと比較してパフォーマンスが9.7%向上したが、RPVは5.9%にとどまり、エネルギー削減と同時にパフォーマンスを維持または向上させられることが示された。
• RPVと比較して、1000命令あたりのリフレッシュ回数（RPKI）を平均252.3回削減した。RPVは66.4回であったため、より大きなアクティブ領域の縮小に起因する優れたリフレッシュエネルギー削減効果が裏付けられた。
• 30 µsのリフレッシュ周期では、本手法が27.9%のエネルギー節約を達成した。RPVは16.0%であったため、リフレッシュエネルギーのオーバーヘッドが高まる中で本手法の優位性がさらに顕著になった。
• MPKIの平均増加はわずか0.42にとどまり、定期的な再構成にもかかわらず、キャッシュ再構成によるパフォーマンスコストは最小限に抑えられた。
• eDRAMのリークは低いが、リフレッシュ周期が30 µsに短くなった場合、SRAMはeDRAMをわずか2.3%のエネルギー増加で上回った（40 µs時と比較して22.2%から低下）。これは、リフレッシュエネルギーがシステム全体のトレードオフにおいて極めて重要な要因であることを示している。