[论文解读] The Splay-List: A Distribution-Adaptive Concurrent Skip-List

Vitaly Aksenov, Dan Alistarh+2 more|arXiv (Cornell University)|Jan 1, 2020

Distributed systems and fault tolerance被引用 3

一句话总结

本文提出splay-list，一种分布自适应的并发跳表，能根据访问频率动态调整元素高度——将频繁访问的元素提升至更高层，以实现更快的检索。在访问模式偏斜的工作负载下，其摊销性能达到理论最优，并在某些并发、偏斜访问场景中优于经典跳表和CBTree，尤其在采用近似访问计数以减少写开销时表现更佳。

ABSTRACT

The design and implementation of efficient concurrent data structures has seen significant attention. However, most of this work has focused on concurrent data structures providing good worst-case guarantees. In real workloads, objects are often accessed at different rates, since access distributions may be non-uniform. Efficient distribution-adaptive data structures are known in the sequential case, e.g. the splay-trees; however, they often are hard to translate efficiently in the concurrent case. In this paper, we investigate distribution-adaptive concurrent data structures, and propose a new design called the splay-list. At a high level, the splay-list is similar to a standard skip-list, with the key distinction that the height of each element adapts dynamically to its access rate: popular elements "move up," whereas rarely-accessed elements decrease in height. We show that the splay-list provides order-optimal amortized complexity bounds for a subset of operations, while being amenable to efficient concurrent implementation. Experimental results show that the splay-list can leverage distribution-adaptivity to improve on the performance of classic concurrent designs, and can outperform the only previously-known distribution-adaptive design in certain settings.

研究动机与目标

• 解决缺乏高效、并发、分布自适应数据结构的问题，以利用非均匀访问模式。
• 设计一种并发跳列表变体，根据访问频率动态调整元素高度，从而提升热门元素的性能。
• 在近似访问计数下提供理论保证，这对实际性能至关重要。
• 评估splay-list在不同工作负载和更新率下相对于现有并发设计（如CBTree和标准跳表）的可扩展性和性能表现。

提出的方法

• splay-list采用跳表骨干结构，并引入动态高度自适应机制：频繁访问的元素被提升至更高层，从而降低搜索代价。
• 其采用一种重新平衡算法，确保对元素x的摊销搜索和删除时间复杂度为O(log m / f(x))，其中f(x)为x的先前访问次数。
• 该设计支持近似访问计数，即仅1/c的读者线程负责更新访问统计，从而减少写竞争。
• 该数据结构基于现有跳表原语，使用基于锁的更新机制实现，支持高效的并发访问。
• 通过C++实现对均匀和偏斜工作负载进行性能评估，测试不同更新率和线程数量下的表现。

实验结果

研究问题

• RQ1 能否设计一种并发跳表，使其结构能根据访问频率自适应调整，从而在偏斜工作负载下提升性能？
• RQ2 在动态高度自适应机制下，此类结构的理论摊销时间复杂度边界是什么？
• RQ3 在并发环境下，近似访问计数对性能和正确性有何影响？
• RQ4 在并发访问场景下，splay-list与CBTree及标准跳表相比，在吞吐量和可扩展性方面表现如何？

主要发现

• 在动态高度自适应机制下，splay-list实现了理论最优的摊销搜索和删除时间复杂度O(log m / f(x))，与CBTree的理论边界一致。
• 在采用近似访问计数（1/c的更新概率）时，contains操作的期望摊销代价为O(c log(m / f(x)))，当c为常数时仍保持高效。
• splay-list在所有测试工作负载和更新率下均表现出强大的可扩展性，在高更新率场景下优于CBTree。
• 在中等偏斜工作负载且更新率较低时，CBTree与splay-list性能相当，但在高更新率下其性能显著下降。
• 由于频繁访问结构的‘热门’部分，splay-list受益于更优的缓存行为，部分抵消了访问路径变长的影响。