[论文解读] Lock-free Concurrent Data Structures

Daniel Cederman, Anders Gidenstam+4 more|arXiv (Cornell University)|Feb 12, 2013

Distributed systems and fault tolerance参考文献 57被引用 5

一句话总结

本文全面概述了无锁并发数据结构，重点阐述其在多核及众核系统（尤其是图形处理器，GPUs）中的设计、实现与优化。文章倡导使用无锁算法，确保在竞争环境下仍能保证进度，利用CAS和LL/SC等原子原语，并强调其相较于阻塞方法在避免死锁和可扩展性瓶颈方面的优势。

ABSTRACT

Concurrent data structures are the data sharing side of parallel programming. Data structures give the means to the program to store data, but also provide operations to the program to access and manipulate these data. These operations are implemented through algorithms that have to be efficient. In the sequential setting, data structures are crucially important for the performance of the respective computation. In the parallel programming setting, their importance becomes more crucial because of the increased use of data and resource sharing for utilizing parallelism. The first and main goal of this chapter is to provide a sufficient background and intuition to help the interested reader to navigate in the complex research area of lock-free data structures. The second goal is to offer the programmer familiarity to the subject that will allow her to use truly concurrent methods.

研究动机与目标

• 为研究人员和实践者提供无锁并发数据结构的基础理解。
• 解决锁机制的局限性，如死锁、优先级反转和可扩展性差等问题。
• 探讨为图形处理器（GPUs）设计无锁数据结构所面临的独特挑战与机遇，包括内存合并与缺乏栈支持。
• 推动在现代并行编程框架与语言（如Intel TBB、Java并发库和.NET）中使用无锁算法。
• 指导在高度并行环境中设计可扩展、高效且无死锁的并发数据结构。

提出的方法

• 利用Compare-And-Swap（CAS）、Test-And-Set（TAS）以及Load-Link/Store-Conditional（LL/SC）等基本同步原语，实现无锁操作。
• 采用乐观并发控制机制，即操作在不阻塞的情况下进行，仅在发生冲突时重试。
• 利用GPU上的内存合并与SIMD执行，减少原子操作次数，提升性能。
• 在数据结构中提出惰性更新策略（例如，减少更新队列尾指针的频率），以最小化昂贵的CAS操作。
• 建议重构数据结构（如增加树节点的分支因子），使其与SIMD指令宽度对齐，降低深度。
• 将递归算法转换为迭代形式，以应对GPU中缺乏硬件栈的问题。

实验结果

研究问题

• RQ1 如何设计并发数据结构，以避免锁机制固有的可扩展性与正确性问题？
• RQ2 哪些关键同步原语可实现高效无锁数据结构的构建？
• RQ3 GPU的架构特性（如内存合并、无写回缓存及无硬件栈）如何影响无锁数据结构的设计？
• RQ4 算法优化手段（如惰性更新与合并内存访问）在GPU上无锁数据结构中如何提升性能？
• RQ5 在GPU环境中，无锁工作窃取与软件管理的负载均衡是否能超越硬件调度器的性能表现？

主要发现

• 无锁数据结构对死锁、优先级反转和队列阻塞免疫，并在高竞争环境下仍能保证进度。
• 使用CAS和LL/SC等原子原语可实现无锁进度，确保至少一个操作在有限步内完成。
• 在GPU上，内存合并与SIMD执行支持大规模原子内存操作，可替代多个小规模CAS操作，从而提升性能。
• 惰性更新策略（如每x次操作更新一次队列尾指针）可显著降低CAS开销，同时保持正确性。
• 通过重构数据结构（如增加树的分支因子）使其与SIMD宽度对齐，可减少遍历深度并提升缓存效率。
• 结合高效内存访问模式，软件管理的无锁工作窃取在某些GPU工作负载中优于硬件调度器。