[論文レビュー] Durable Queues

Gal Sela, Erez Petrank|arXiv (Cornell University)|Jul 6, 2021

Parallel Computing and Optimization Techniques参考文献 36被引用数 1

ひとこと要約

この論文では、フラッシュ済みデータへのアクセス回数と永続化操作の回数の両方を最小限に抑えることで、非揮発性メインメモリ向けの高パフォーマンスでロックフリーかつ耐久性のあるキューを提示する。キャッシュ効率を最適化し、高コストなキャッシュ無効化を低減することで、提案された耐久キューは最先端のソリューションを上回る性能を発揮し、フラッシュ済みコンテンツへのアクセス回数を最小限に抑えることが、永続化命令の回数を減らすことと同程度に重要であることを示している。

ABSTRACT

We consider durable data structures for non-volatile main memory, such as the new Intel Optane memory architecture. Substantial recent work has concentrated on making concurrent data structures durable with low overhead, by adding a minimal number of blocking persist operations (i.e., flushes and fences). In this work we show that focusing on minimizing the number of persist instructions is important, but not enough. We show that access to flushed content is of high cost due to cache invalidation in current architectures. Given this finding, we present a design of the queue data structure that properly takes care of minimizing blocking persist operations as well as minimizing access to flushed content. The proposed design outperforms state-of-the-art durable queues. We start by providing a durable version of the Michael Scott queue (MSQ). We amend MSQ by adding a minimal number of persist instructions, fewer than in available durable queues, and meeting the theoretical lower bound on the number of blocking persist operations. We then proceed with a second amendment to this design, that eliminates accesses to flushed data. Evaluation shows that the second amendment yields substantial performance improvement, outperforming the state of the art and demonstrating the importance of reduced accesses to flushed content. The presented queues are durably linearizable and lock-free. Finally, we discuss the theoretical optimal number of accesses to flushed content.

研究の動機と目的

• 非揮発性メインメモリにおけるフラッシュ済みデータへの高コストなアクセスが引き起こす耐久性のある並列データ構造のパフォーマンスボトルネックを解消すること。
• 永続化操作のブロッキング回数の理論的下限に一致するが、フラッシュ済みコンテンツへのアクセスを減らす耐久キューを設計すること。
• 永続化操作とデータアクセスパターンの両方を最適化することで、既存の耐久キューを上回る優れたパフォーマンスを達成すること。
• 耐久データ構造におけるフラッシュ済みコンテンツへのアクセス回数の理論的下限を確立すること。

提案手法

• 広く知られたロックフリーキューであるマイケル・スコットキュー（MSQ）を出発点とし、耐久性を保証するために最小限の永続化命令を追加する。
• 理論的下限解析を適用して、永続化操作の回数が最小限に抑えられ、理論的最小値と一致することを保証する。
• フラッシュ済みメモリ領域からの読み取りを排除する2番目の最適化を導入し、キャッシュ無効化を低減してパフォーマンスを向上させる。
• 得られたデータ構造が耐久線形化可能かつロックフリーのまま保たれることを保証し、永続メモリのセマンティクスに従った正しさを維持する。
• メモリバリアとフラッシュ操作を戦略的に使用して、並列性を損なわずに耐久性を確保する。
• 異なるキュー設計におけるフラッシュ済みデータへのアクセスパターンを分析・比較し、パフォーマンスへの影響を定量化する。

実験結果

リサーチクエスチョン

• RQ1 非揮発性メモリにおける耐久的かつロックフリーなキューに必要な最小限の永続化操作回数は何か？
• RQ2 フラッシュ済みデータへのアクセスは、耐久性のある並列データ構造のパフォーマンスにどのように影響を与えるか？
• RQ3 フラッシュ済みコンテンツへのアクセスを減らすことで、永続化操作の回数を減らすのとは別に、耐久キューのパフォーマンスを顕著に向上させることができるか？
• RQ4 耐久データ構造におけるフラッシュ済みコンテンツへのアクセス回数の理論的下限は何か？
• RQ5 永続化操作とフラッシュ済みデータへのアクセスの両方を最小限に抑えつつ、ロックフリーかつ耐久線形化可能なキューをどのように設計できるか？

主な発見

• 現在のアーキテクチャでは、キャッシュ無効化が原因でフラッシュ済みデータへのアクセスに高コストがかかるため、永続化操作のコストを超えて重要なボトルネックとなっている。
• 提案されたキュー設計は、永続化操作の回数とフラッシュ済みコンテンツへのアクセス回数の両方を削減しており、既存の耐久キューと比較して優れたパフォーマンスを発揮している。
• 2番目の最適化である「フラッシュ済みデータからの読み取りを排除する」ことにより、顕著なパフォーマンス向上が達成され、フラッシュ済みコンテンツへのアクセス回数を最小限に抑えることが、永続化命令の回数を減らすことと同等に重要であることを示している。
• 最終的な設計は、永続化操作回数の理論的下限に達しており、この次元における最適性が確認されている。
• 提案されたキューは耐久線形化可能かつロックフリーであり、永続メモリのセマンティクスに従った正しさと並列処理の安全性を保証している。
• 本研究は、フラッシュ済みコンテンツへのアクセス回数の最適値に関する理論的基盤を確立し、今後の耐久データ構造の設計にベンチマークを提供している。