[论文解读] Wormhole: A Fast Ordered Index for In-memory Data Management

Xingbo Wu, Fan Ni+1 more|arXiv (Cornell University)|May 6, 2018

Distributed systems and fault tolerance参考文献 31被引用 63

一句话总结

Wormhole 将哈希表、前缀树和类似 B+ 树的结构结合起来，在内存数据管理中的有序索引上实现 O(log L) 的查找时间（L = 键长度），在空间利用方面具有竞争力，并支持快速范围查询。

ABSTRACT

In-memory data management systems, such as key-value stores, have become an essential infrastructure in today's big-data processing and cloud computing. They rely on efficient index structures to access data. While unordered indexes, such as hash tables, can perform point search with O(1) time, they cannot be used in many scenarios where range queries must be supported. Many ordered indexes, such as B+ tree and skip list, have a O(log N) lookup cost, where N is number of keys in an index. For an ordered index hosting billions of keys, it may take more than 30 key-comparisons in a lookup, which is an order of magnitude more expensive than that on a hash table. With availability of large memory and fast network in today's data centers, this O(log N) time is taking a heavy toll on applications that rely on ordered indexes. In this paper we introduce a new ordered index structure, named Wormhole, that takes O(log L) worst-case time for looking up a key with a length of L. The low cost is achieved by simultaneously leveraging strengths of three indexing structures, namely hash table, prefix tree, and B+ tree, to orchestrate a single fast ordered index. Wormhole's range operations can be performed by a linear scan of a list after an initial lookup. This improvement of access efficiency does not come at a price of compromised space efficiency. Instead, Wormhole's index space is comparable to those of B+ tree and skip list. Experiment results show that Wormhole outperforms skip list, B+ tree, ART, and Masstree by up to 8.4x, 4.9x, 4.3x, and 6.6x in terms of key lookup throughput, respectively.

研究动机与目标

• 在内存键值存储中推动对快速有序索引的需求，在大规模时传统的 O(log N) 查找成本变得高昂。
• 提出一种混合数据结构，在不显著增加空间开销的前提下，将查找时间从 O(log N) 降至接近 O(log L)。
• 实现高效的范围查询，并在大规模内存索引中保持插入和删除的性能。
• 将 Wormhole 与现有的有序索引（B+树、跳表、ART、Masstree）进行对比，并分析并发性与空间特性。

提出的方法

• 通过用 MetaTrie 替换 B+树 MetaTree 来引入 Wormhole，以使查找成本与 N（键数量）解耦。
• 用具备哈希的 MetaTrieHT 替换 MetaTrie，通过基于哈希前缀表加速的最长前缀匹配实现 O(log L) 的查找。
• 在每个叶子节点存储多个键，以提高相对于标准前缀树的空间效率。
• 采用两阶段搜索：(1) 通过 MetaTrieHT 进行最长前缀匹配，(2) 使用内部节点位图和叶指针进行子树遍历以实现快速导航。
• 为 MetaTrieHT 引入增量哈希和无锁阅读路径（RCU），以在不阻塞的情况下支持并发查找。
• 提供 GET、SET、DEL 和 RangeSearchAscending 的算法，并描述 MetaTrieHT 中叶子分裂/合并及锚点维护。

实验结果

研究问题

• RQ1 Wormhole 是否能够在查找成本为 O(log L) 且保持与 B+树相当的空间效率的前提下，独立于 N？
• RQ2 混合结构（哈希 + 前缀树 + B+树概念）如何在大规模内存索引中支持高效的点查询和范围查询？
• RQ3 哪些并发策略能够在尽量少锁定的情况下实现快速查找，同时支持插入、删除和结构修改？
• RQ4 就吞吐量和空间而言，Wormhole 与现有有序索引及哈希表相比如何？
• RQ5 还有哪些优化可以进一步降低查找路径成本并提升实际性能？

主要发现

• Wormhole 实现了渐近查找时间 O(log L)，其中 L 是搜索键长度，当 N 很大时，这小于 O(log N)。
• Wormhole 的核心结构将 LeafList（类似 B+树叶子节点）与 MetaTrieHT 结合，后者加速最长前缀匹配并降低遍历成本。
• 实验结果显示，在键查找吞吐量方面，Wormhole 分别比 Skip List、B+Tree、ART 和 Masstree 快最多 8.4×、4.9×、4.3×、6.6×。
• 与针对点查找场景且不含范围查询的高度优化的 Cuckoo 哈希表相比，Wormhole 实现了哈希表吞吐量的 30–92%。
• Wormhole 的空间开销与 B+树相当，通常低于普通前缀树，这归因于在叶子节点存储多个键以及锚点维护的效率。
• 并发通过叶级读写锁以及带锁保护的 MetaTrieHT 与基于 RCU 的无锁读取来实现，这在查找时降低了争用，同时在确保更新安全的情况下提供并发性。