[论文解读] Techniques for Constructing Efficient Lock-free Data Structures

Trevor Brown|arXiv (Cornell University)|Dec 14, 2017

Distributed systems and fault tolerance参考文献 112被引用 5

一句话总结

本文提出了 LLX 和 SCX 两种新型多字同步原语，简化了高效无锁树数据结构的构建。通过一种新型无锁基于纪元的内存回收算法（DEBRA+），实现了动态内存分配与回收，并借助硬件事务内存（HTM）加速实现，作者实现了高性能、线程安全的树操作，具备强进展保证且开销更低。

ABSTRACT

Building a library of concurrent data structures is an essential way to simplify the difficult task of developing concurrent software. Lock-free data structures, in which processes can help one another to complete operations, offer the following progress guarantee: If processes take infinitely many steps, then infinitely many operations are performed. Handcrafted lock-free data structures can be very efficient, but are notoriously difficult to implement. We introduce numerous tools that support the development of efficient lock-free data structures, and especially trees.

研究动机与目标

• 为解决仅使用单字 CAS 操作实现高效无锁数据结构（尤其是树结构）的困难。
• 降低无锁算法中动态内存分配与回收的复杂度与开销。
• 设计在单 CAS 与完整多字 CAS 之间实现表达性与效率平衡的同步原语。
• 实现高级树结构（如染色树与松弛 B-松弛树）的高性能、可扩展的无锁实现。
• 设计一种与基于树的数据结构及现代硬件事务内存兼容的实用无锁内存回收机制。

提出的方法

• 引入 LLX 与 SCX 作为新型同步原语，支持无需完整多字 CAS 的多字原子更新。
• 设计树更新模板，抽象树修改逻辑，支持模块化且正确的无锁树操作实现。
• 设计 DEBRA+，一种针对使用动态节点分配的树数据结构量身定制的快速、无锁基于纪元的回收（EBR）算法。
• 采用三路径执行模型（快速路径、中间路径、回退路径），利用硬件事务内存（HTM）加速操作，最小化干扰与开销。
• 通过一种新技术消除 SCX 描述符的动态分配，优化描述符管理，降低内存分配压力。
• 将模板与原语应用于实现染色搜索树、松弛 AVL 树、松弛 (a,b)-树以及一种新型空间复杂度更优的松弛 B-松弛树的首个无锁版本。

实验结果

研究问题

• RQ1 如何设计比单字 CAS 更具表达性但又比完整多字 CAS 更高效的无锁数据结构同步原语？
• RQ2 在无锁树实现中，是否存在一种高效且可扩展的动态内存回收方法，可避免传统 EBR 与 GC 方法的缺陷？
• RQ3 能否有效利用硬件事务内存（HTM）加速无锁树操作，同时保持正确性与进展保证？
• RQ4 如何系统化地构建复杂树结构（如染色树与松弛 B-树）的正确且高效的无锁实现？
• RQ5 可应用哪些优化技术来消除 SCX 操作中描述符对象的动态分配，从而提升性能？

主要发现

• LLX 与 SCX 原语实现了染色搜索树、松弛 AVL 树与松弛 (a,b)-树的首个无锁实现，证明了其表达性与实用性。
• 新型 B-树变体松弛 B-松弛树相比传统 B-树显著改善了最坏情况下的空间复杂度。
• DEBRA+ 是首个既高效又与使用动态节点分配的基于树的数据结构兼容的无锁基于纪元回收算法。
• 三路径 HTM 加速技术通过在快速路径中消除描述符检查，显著降低开销，在多种工作负载下实现显著性能提升。
• 消除 SCX 操作中动态描述符分配的技术降低了内存分配压力，并在一大类算法中提升了性能。
• 实验表明，使用 HTM 加速的实现显著提升了性能，尤其在高竞争工作负载下，验证了三路径方法的有效性。