[論文レビュー] DReAM: Dynamic Re-arrangement of Address Mapping to Improve the Performance of DRAMs

Mohsen Ghasempour, Jim Garside+2 more|arXiv (Cornell University)|Sep 12, 2015

Parallel Computing and Optimization Techniques参考文献 14被引用数 4

ひとこと要約

DReAM は、ワークロード固有のメモリアクセスパターンに基づいて実行時において動的に DRAM アドレスマッピングを再構成する画期的なハードウェア技術であり、エントロピーに基づくビット分析を用いてページ競合を最小限に抑える。アプリケーションの停止やソフトウェア変更を必要とせず、ワークロード全体で平均して最大 28% の DRAM パフォーマンス向上を達成し、静的マッピング方式を上回る性能を発揮する。

ABSTRACT

The initial location of data in DRAMs is determined and controlled by the 'address-mapping' and even modern memory controllers use a fixed and run-time-agnostic address mapping. On the other hand, the memory access pattern seen at the memory interface level will dynamically change at run-time. This dynamic nature of memory access pattern and the fixed behavior of address mapping process in DRAM controllers, implied by using a fixed address mapping scheme, means that DRAM performance cannot be exploited efficiently. DReAM is a novel hardware technique that can detect a workload-specific address mapping at run-time based on the application access pattern which improves the performance of DRAMs. The experimental results show that DReAM outperforms the best evaluated address mapping on average by 9%, for mapping-sensitive workloads, by 2% for mapping-insensitive workloads, and up to 28% across all the workloads. DReAM can be seen as an insurance policy capable of detecting which scenarios are not well served by the predefined address mapping.

研究の動機と目的

• 動的メモリアクセスパターンに適応しない静的・固定のアドレスマッピング方式が引き起こす DRAM のパフォーマンス劣化を是正すること。
• 同じバンク内の連続的な異なる行へのアクセスによって引き起こされるページ競合を、リアルタイムのアクセス行動に基づいて動的にアドレスマッピングを再割り当てすることで低減すること。
• アプリケーションの停止を伴わず、実行時におけるアドレスマッピング再構成を可能にする。ソフトウェアオンリーまたはオフライン手法の限界を克服すること。
• ストレージおよびハードウェアコストを最小限に抑える低オーバーヘッドのメカニズムを設計し、実行時におけるデータ移行を可能にすること。

提案手法

• DReAM は、250K 回のリクエストをカバーするスライディングウィンドウ内で各物理アドレスビットのエントロピーを近似することで、ワークロード固有のアクセス行動を検出する。
• 各アドレスビットごとにカウンタと XOR ゲートを用いてビット遷移を追跡し、アクセスローカリティと相関する高エントロピーのビットを特定する。
• 検出されたアクセスパターンに基づき、行バッファ競合およびページ競合を最小限に抑える最適化されたアドレスマッピング方式を計算する。
• 移行テーブル（MT）とステートテーブル（ST）を用いてオンラインデータ移行を実行し、バンク間でのデータ再配置を実現し、バンク内移動を回避することでオーバーヘッドを低減する。
• 最後にアクセスされたアドレスを追跡することで動的再マッピングをサポートし、通常動作中に段階的なデータ移動を可能にする。
• ストレージオーバーヘッドを最小限に抑え、監視に 60 バイト、移行メタデータに DRAM サイズの 3×10⁻⁵% のみを必要とし、スケーラブルかつ実用的である。

実験結果

リサーチクエスチョン

• RQ1 実行時適応型アドレスマッピング方式は、固定された静的方式と比較して、DRAM におけるページ競合を顕著に低減できるか？
• RQ2 リアルタイムのアクセスパターンに基づいてアドレスマッピングを動的に再構成することで、多様なワークロードにおいてどの程度のパフォーマンス向上が達成できるか？
• RQ3 アプリケーションの中断なしに、実行時におけるアドレスマッピング変更をサポートするための、効率的かつコスト効率の良いオンラインデータ移行をどのように実装できるか？
• RQ4 実行時におけるアドレスマッピング適応およびデータ移行状態を維持するためのストレージおよびハードウェアオーバーヘッドはどの程度か？
• RQ5 動的再マッピングの複雑さとオーバーヘッドを正当化するだけの十分なワークロード固有のアクセスパターン検出が可能か？

主な発見

• DReAM-Offline は、最良の静的アドレスマッピング方式を平均 5%、全 48 個のワークロードで最大 28% まで上回る。
• マッピングに敏感なワークロードでは、DReAM は最良のベースライン比で平均 9% のパフォーマンス向上を達成する。
• マッピングに敏感でないワークロードに対しても、DReAM は平均 2% のパフォーマンス向上を示し、広範な適用可能性を示す。
• オンラインバージョンでは、検出閾値を満たす 12 個のワークロードに対して、DReAM-Online は平均 4.5% のパフォーマンス向上を達成し、ピークで 23% の向上を記録した。
• システムは監視にのみ 60 バイトのオーバーヘッドを負担し、移行メタデータに DRAM サイズの 3×10⁻⁵% のみを必要としており、ストレージコストが極めて低いことが示された。
• データ再配置の 87.5% がバンク間で発生し、バンク内移動は回避されたため、移行コストが低減されていることが確認され、設計の効率性が裏付けられた。