[论文解读] PI : a Parallel in-memory skip list based Index

Zhongle Xie, Qingchao Cai+3 more|arXiv (Cornell University)|Jan 2, 2016

Distributed systems and fault tolerance参考文献 32被引用 4

一句话总结

PI 是一种无锁、并行的内存索引，基于跳表数据结构构建，专为多核系统设计，具有高可扩展性。它采用批量查询处理、SIMD 加速、NUMA 感知分区和工作负载再分配技术，消除了锁争用，在内存数据库工作负载中实现的查询吞吐量最高可达 Masstree 的 3 倍。

ABSTRACT

Due to the coarse granularity of data accesses and the heavy use of latches, indices in the B-tree family are not efficient for in-memory databases, especially in the context of today's multi-core architecture. In this paper, we present PI, a Parallel in-memory skip list based Index that lends itself naturally to the parallel and concurrent environment, particularly with non-uniform memory access. In PI, incoming queries are collected, and disjointly distributed among multiple threads for processing to avoid the use of latches. For each query, PI traverses the index in a Breadth-First-Search (BFS) manner to find the list node with the matching key, exploiting SIMD processing to speed up the search process. In order for query processing to be latch-free, PI employs a light-weight communication protocol that enables threads to re-distribute the query workload among themselves such that each list node that will be modified as a result of query processing will be accessed by exactly one thread. We conducted extensive experiments, and the results show that PI can be up to three times as fast as the Masstree, a state-of-the-art B-tree based index.

研究动机与目标

• 为解决 B+ 树索引在内存、多核数据库中因粗粒度访问和锁争用导致的可扩展性差的问题。
• 探索跳表作为并发、多核环境下内存索引中 B 树的更可扩展替代方案。
• 设计一种高性能、无锁索引，通过 SIMD 和工作负载再分配支持高效的点查询和范围查询。
• 针对 NUMA 架构和缓存局部性进行优化，以减少内存访问延迟并提升吞吐量。

提出的方法

• 查询被分组为批次，并在多个线程上并行处理，以避免锁争用。
• 使用 SIMD 指令以广度优先方式遍历每个查询，加速键比较并减少内存访问开销。
• 采用轻量级通信协议动态重新分配查询工作负载，确保每个索引节点仅由一个线程访问，从而实现无锁更新。
• 根据访问模式将索引分区到 NUMA 节点上，以最小化远程内存访问延迟。
• 将高层级索引节点分组为条目，以改善缓存局部性并支持高效的 SIMD 处理。
• 通过预取和查询分组进一步降低延迟，实现内存访问与计算的重叠。

实验结果

研究问题

• RQ1 基于跳表的索引是否能在内存、多核数据库工作负载中超越 B+ 树变体（如 Masstree）？
• RQ2 使用 SIMD 和 NUMA 感知分区如何影响并行内存索引的性能？
• RQ3 通过工作负载再分配实现无锁查询处理，能在多大程度上提升可扩展性和吞吐量？
• RQ4 查询偏斜度对所提出索引性能的影响如何，相较于传统 B 树索引？
• RQ5 结合预取、分组和 SIMD 等优化技术对索引吞吐量有何性能影响？

主要发现

• PI 在所有 YCSB 工作负载中，查询吞吐量最高可达 Masstree 的 3 倍，证明其在多核系统中具有卓越的可扩展性。
• 与基线跳表相比，使用 SIMD 处理使搜索查询吞吐量提升 1.3 倍，插入吞吐量提升 1.0 倍。
• NUMA 感知分区通过最小化远程内存访问，为搜索和插入查询分别带来 1.2 倍的性能提升。
• 查询分组和预取分别带来 0.05 倍和 0.2 倍的搜索吞吐量增量提升。
• PI 在不同查询偏斜度下（Zipf 分布参数 θ 从 0 到 0.9）性能保持稳定，表明对工作负载偏斜具有鲁棒性。
• 随着范围查询粒度增加，吞吐量线性下降，但依然显著高于 Masstree，尤其在缓存利用更好的小数据集上表现更优。