[论文解读] VBR: Version Based Reclamation

Gali Sheffi, Maurice Herlihy+1 more|arXiv (Cornell University)|Jan 1, 2021

Distributed systems and fault tolerance参考文献 47被引用 6

一句话总结

本文提出版本化回收（VBR），一种完全乐观的无锁内存回收机制，支持对已释放内存对象的读写推测执行。通过为每个字段扩展版本计数器，VBR 检测并拒绝因回收导致的无效访问，确保正确性，且仅依赖于双字宽比较并交换（CAS）指令，无需硬件或操作系统假设，其在无锁数据结构中的性能优于现有方案。

ABSTRACT

Safe lock-free memory reclamation is a difficult problem. Existing solutions follow three basic methods (or their combinations): epoch based reclamation, hazard pointers, and optimistic reclamation. Epoch-based methods are fast, but do not guarantee lock-freedom. Hazard pointer solutions are lock-free but typically do not provide high performance. Optimistic methods are lock-free and fast, but previous optimistic methods did not go all the way. While reads were executed optimistically, writes were protected by hazard pointers. In this work we present a new reclamation scheme called version based reclamation (VBR), which provides a full optimistic solution to lock-free memory reclamation, obtaining lock-freedom and high efficiency. Speculative execution is known as a fundamental tool for improving performance in various areas of computer science, and indeed evaluation with a lock-free linked-list, hash-table and skip-list shows that VBR outperforms state-of-the-art existing solutions.

研究动机与目标

• 解决并发系统中安全、无锁内存回收的挑战，不依赖阻塞机制或硬件扩展。
• 消除现有回收方案中的性能瓶颈，特别是写操作中使用危险指针导致的优化限制。
• 在保持线性化和无锁性的同时，实现完全的推测执行（包括读和写）。
• 设计一种对非响应线程具有鲁棒性、并能避免因回收停滞导致内存耗尽的方案。
• 提供一种实用、高效且可移植的解决方案，可在标准架构上运行，无需操作系统或硬件修改。

提出的方法

• VBR 为每个共享对象的每个可变字段扩展版本计数器，以检测陈旧或无效的内存访问。
• 使用全局纪元计数器和线程本地的纪元跟踪机制，确定何时可回收已释放的对象。
• 仅当版本号与当前纪元匹配时，线程才可推测性地访问已释放对象；不匹配则触发回滚或重试。
• 在接口操作（如 add、remove、contains）中集成检查点，以支持在推测访问失败后安全回滚。
• 利用双字宽比较并交换（CAS）指令原子更新纪元和版本信息，确保一致性。
• 通过集成在无锁数据结构控制流中的重试逻辑，处理因回收验证失败导致的异常。

实验结果

研究问题

• RQ1 能否设计一种完全乐观的内存回收机制，支持无需依赖危险指针的读写推测访问？
• RQ2 如何利用版本控制在无锁方式下检测并拒绝推测执行期间的无效内存访问？
• RQ3 该机制能否保证无锁性，并在最坏情况下避免因非响应线程导致的阻塞？
• RQ4 与现有混合或保守回收方法相比，版本控制在真实并发数据结构中的性能开销如何？
• RQ5 如何在无锁算法的控制流中高效且透明地处理推测访问失败？

主要发现

• VBR 实现了完全的无锁性，通过确保没有线程能无限期阻塞回收，避免了基于纪元回收的阻塞问题。
• 在无锁链表、哈希表和跳表的基准测试中，VBR 的性能优于最先进的方案，包括基于纪元和危险指针的方法。
• VBR 允许在对象被释放后立即重用，提高了空间效率，且不损害正确性。
• 通过使用版本字段，支持推测性读和写，消除了写操作中昂贵的内存屏障开销。
• 该方法具有可移植性，仅依赖广泛可用的双字宽 CAS 指令，适用于现代架构的生产部署。
• 回收验证失败的情况可自然地集成到现有无锁数据结构的控制流中，当正确集成时，性能影响极小。