[论文解读] Cache-Aware Lock-Free Concurrent Hash Tries

Aleksandar Prokopec, Phil Bagwell+1 more|arXiv (Cornell University)|Sep 18, 2017

Distributed systems and fault tolerance参考文献 13被引用 11

一句话总结

本文提出了一种无锁、缓存感知的并发哈希Trie（Ctrie），通过单字长比较并交换（CAS）指令实现线程安全的插入、查找和删除操作，且无需阻塞。该数据结构通过在删除操作后动态收缩来保持空间效率，并确保线性化和无锁性，从而在无全局停顿重哈希阶段的情况下，实现高并发工作负载下的高性能与可扩展性。

ABSTRACT

This report describes an implementation of a non-blocking concurrent shared-memory hash trie based on single-word compare-and-swap instructions. Insert, lookup and remove operations modifying different parts of the hash trie can be run independent of each other and do not contend. Remove operations ensure that the unneeded memory is freed and that the trie is kept compact. A pseudocode for these operations is presented and a proof of correctness is given -- we show that the implementation is linearizable and lock-free. Finally, benchmarks are presented which compare concurrent hash trie operations against the corresponding operations on other concurrent data structures, showing their performance and scalability.

研究动机与目标

• 设计一种无锁并发哈希Trie，即使在发生线程故障或延迟时也能保证进度。
• 通过在键删除后动态收缩Trie来保持空间效率。
• 消除全局停顿的重哈希阶段，实现真正的实时操作。
• 通过形式化证明确保线性化和无锁性，从而在并发访问下保证正确性。
• 通过全面基准测试，评估其与现有并发数据结构的性能表现。

提出的方法

• Ctrie采用哈希数组映射Trie结构，并利用位图索引数组以确保空间效率和缓存感知的内存访问。
• 所有操作（插入、查找、删除）均通过单字长比较并交换（CAS）指令实现，避免使用锁。
• 通过原子更新位图和数组条目来维护数据结构的不变性，确保在并发修改期间的一致性。
• 清理与收缩机制会移除空节点（null-inodes），并将墓碑节点（tomb-inodes）恢复为snode，以压缩Trie并减少深度。
• 算法包含一个“tombCompress”阶段，从叶节点向根节点逐级传播压缩，确保最多仅保留一个长度为1的末端。
• 通过状态不变量和有限状态推进论证，形式化证明了线性化和无锁性。

实验结果

研究问题

• RQ1 能否在不使用锁的情况下实现并发哈希Trie，同时保持空间效率和缓存感知？
• RQ2 如何确保删除操作能释放未使用的内存并使Trie保持紧凑？
• RQ3 在并发工作负载中，是否可以通过避免全局同步或停顿重哈希阶段来提升性能与可扩展性？
• RQ4 在所有执行场景下，所提出的Trie是否具有线性化和无锁性？
• RQ5 在实际应用中，Ctrie的性能与其它并发数据结构相比如何？

主要发现

• Ctrie实现了线性化和无锁性，确保在任何执行序列中至少有一个线程能够推进。
• 该数据结构在删除操作后会动态收缩，保持最优深度并最小化内存使用。
• 基准测试显示，在高竞争环境下，Ctrie在吞吐量和可扩展性方面优于其他并发数据结构。
• 由于避免了全局同步阶段，该实现支持实时操作并具备可预测的性能表现。
• 随着线程数量的增加，该实现表现出良好的可扩展性，在并发工作负载中相比锁式替代方案展现出更优性能。
• 正确性证明表明，所有操作在任意交错执行和线程故障场景下均安全可靠。