[论文解读] Faster Concurrent Range Queries with Contention Adapting Search Trees Using Immutable Data

Kjell Winblad|arXiv (Cornell University)|Sep 3, 2017

Data Management and Algorithms被引用 3

一句话总结

本文提出 Im-Tr-CA，一种新型的并发有序集合数据结构，结合了竞争自适应搜索树与不可变数据结构，以实现快速、线性可串行化的范围查询。通过根据竞争程度和查询大小动态调整不可变数据段的大小，Im-Tr-CA 减少了锁竞争，并在具有大范围查询的工作负载中，相较于现有方法性能最高提升三倍。

ABSTRACT

The need for scalable concurrent ordered set data structures with linearizable range query support is increasing due to the rise of multicore computers, data processing platforms and in-memory databases. This paper presents a new concurrent ordered set with linearizable range query support. The new data structure is based on the contention adapting search tree and an immutable data structure. Experimental results show that the new data structure is as much as three times faster compared to related data structures. The data structure scales well due to its ability to adapt the sizes of its immutable parts to the contention level and the sizes of the range queries.

研究动机与目标

• 解决现有支持线性可串行化范围查询的并发有序集合在高竞争环境下可扩展性受限的问题。
• 克服粗粒度和固定大小细粒度方法在并发范围查询中导致的性能瓶颈。
• 设计一种能根据工作负载特征（如查询大小和竞争水平）动态调整同步粒度的数据结构。
• 在保持线性可串行化和低竞争的同时，提升小范围和大范围查询的性能。
• 在真实工作负载中，将所提方法与最先进的并发数据结构进行对比评估。

提出的方法

• 该数据结构以竞争自适应搜索树（CA树）为核心结构，其中基础节点管理受锁保护的顺序数据结构。
• 使用不可变数据结构存储键值对，更新操作通过创建新版本而非原地修改实现。
• 不可变段的大小根据观测到的竞争水平和预期范围查询大小动态调整。
• 范围查询在遍历最少数量的共享可变基础节点后，切换至只读遍历不可变数据，从而最小化锁竞争。
• 更新操作使用原子的比较并交换（compare-and-swap）来替换对不可变数据根引用的指向，确保线性可串行化。
• 设计利用了缓存友好的内存访问模式，并通过将可变状态隔离到基础节点来减少虚假共享。

实验结果

研究问题

• RQ1 通过将CA树与不可变数据结构结合，是否可以使支持线性可串行化范围查询的并发有序集合实现更优性能？
• RQ2 在竞争程度和查询大小变化的工作负载下，不可变段大小的动态自适应如何影响性能？
• RQ3 在小范围和大范围查询场景下，所提方法是否优于现有的CA树变体及其他并发数据结构？
• RQ4 使用不可变数据在多大程度上减少了锁竞争并提升了并发环境下的可扩展性？
• RQ5 该数据结构的性能在数据集规模增大和访问模式变化时如何扩展？

主要发现

• 在具有大范围查询的工作负载中，Im-Tr-CA 的性能最高可达相关数据结构的三倍。
• 每个范围查询遍历的基础节点数量保持较低水平（例如，32K范围查询仅需遍历13个基础节点），表明共享可变状态访问极少。
• 在128K范围查询场景下，Im-Tr-CA 每个查询仅遍历56个基础节点，证明了共享状态访问的高效性。
• 该数据结构在多样化工作负载中均保持高性能，在小范围和大范围查询场景下均优于其他结构。
• 不可变段大小的动态自适应有效降低了竞争，并在不同工作负载下提升了可扩展性。
• 即使在高竞争且伴随大范围查询的场景下，由于锁持有时间减少，Im-Tr-CA 的性能依然保持领先。