[論文レビュー] The Splay-List: A Distribution-Adaptive Concurrent Skip-List

Vitaly Aksenov, Dan Alistarh+2 more|arXiv (Cornell University)|Jan 1, 2020

Distributed systems and fault tolerance被引用数 3

ひとこと要約

本稿では、アクセス頻度に応じて要素の高さを動的に調整する分布適応型の並列スキップリスト、splay-listを提案する。頻繁にアクセスされる要素がより高いレベルに昇格されることで、検索を高速化する。非一様なワークロード下で順序最適なアマortized性能を達成し、特定の並列的で非一様なアクセスのシナリオにおいて、古典的なスキップリストやCBTreeを上回る性能を発揮する。特に、書き込みオーバーヘッドを低減するための近似アクセスカウントを用いることで効果を発揮する。

ABSTRACT

The design and implementation of efficient concurrent data structures has seen significant attention. However, most of this work has focused on concurrent data structures providing good worst-case guarantees. In real workloads, objects are often accessed at different rates, since access distributions may be non-uniform. Efficient distribution-adaptive data structures are known in the sequential case, e.g. the splay-trees; however, they often are hard to translate efficiently in the concurrent case. In this paper, we investigate distribution-adaptive concurrent data structures, and propose a new design called the splay-list. At a high level, the splay-list is similar to a standard skip-list, with the key distinction that the height of each element adapts dynamically to its access rate: popular elements "move up," whereas rarely-accessed elements decrease in height. We show that the splay-list provides order-optimal amortized complexity bounds for a subset of operations, while being amenable to efficient concurrent implementation. Experimental results show that the splay-list can leverage distribution-adaptivity to improve on the performance of classic concurrent designs, and can outperform the only previously-known distribution-adaptive design in certain settings.

研究の動機と目的

• 非一様なアクセスパターンを活用できる効率的で並列的かつ分布適応型のデータ構造が不足しているという問題に取り組む。
• アクセス頻度に応じて要素の高さを適応的に変更する並列スキップリストの変種を設計し、人気のある要素のパフォーマンスを向上させる。
• 実用的なパフォーマンスに不可欠な近似アクセスカウントの下で理論的保証を提供する。
• splay-listの拡張性とパフォーマンスを、さまざまなワークロードと更新レート下で、既存の並列設計（CBTree や標準スキップリスト）と比較して評価する。

提案手法

• splay-listは、動的高さ適応を実現するスキップリストの骨格を採用。頻繁にアクセスされる要素がより高いレベルに昇格され、検索コストが低減される。
• 再平衡アルゴリズムを採用し、要素xについて、アマortized検索および削除時間の上限をO(log m / f(x))に保証する。ここでf(x)はxの過去のアクセス回数を表す。
• 近似アクセスカウントをサポート。読み取りスレッドの1/cの割合のみがアクセス統計を更新するため、書き込み競合が低減される。
• 既存のスキップリストプリミティブに基づくロックベースの更新を用いて実装。並列アクセスを効率的に実現する。
• C++による実装を用いて、均一なワークロードと非一様なワークロードの両方を対象とし、変動する更新レートとスレッド数の下でパフォーマンスを評価する。

実験結果

リサーチクエスチョン

• RQ1 非一様なアクセス頻度に応じて構造を適応的に変更できる並列スキップリストを設計可能か？ これにより、非一様なワークロード下でのパフォーマンスが向上するか？
• RQ2 動的高さ適応の下で、このようなデータ構造の理論的アマortized時間計算量の境界は何か？
• RQ3 並列環境下で、近似アクセスカウントはパフォーマンスと正しさにどのような影響を与えるか？
• RQ4 並列アクセス下で、splay-listはCBTree や標準スキップリストと比べてスループットと拡張性においてどのように差をつけるか？

主な発見

• 動的高さ適応下で、splay-listはO(log m / f(x))という順序最適なアマortized検索および削除時間に到達し、CBTreeの理論的境界と一致する。
• 近似アクセスカウント（1/cの更新確率）を用いる場合、contains操作の期待アマortizedコストはO(c log(m / f(x)))に低下するが、cが定数の間は依然として効率的である。
• splay-listは、すべてのテストワークロードおよび更新レートで優れた拡張性を示し、高レートの更新環境下ではCBTreeを上回る性能を発揮する。
• 中程度の非一様なワークロードで更新レートが低い状況では、CBTreeはsplay-listと同等のパフォーマンスを示すが、高レートの更新環境下では著しく性能が低下する。
• 頻繁にアクセスされる「人気部分」へのアクセスが向上することで、キャッシュ効果が向上し、長めのアクセスパスの影響が部分的に相殺される。