[论文解读] Multi-probe consistent hashing

Ben Appleton, Michael O’Reilly|arXiv (Cornell University)|May 1, 2015

Algorithms and Data Compression被引用 12

一句话总结

本文提出多探针一致性哈希（multi-probe consistent hashing），一种新颖的一致性哈希算法，仅使用每个节点 $O(1)$ 的空间和每次查找 $O(1/ε)$ 的时间，即可实现 $1+\varepsilon$ 的峰值-平均负载比。通过多次哈希每个键并将其分配给哈希环上最近的节点，该方法在无需虚拟节点或预计算层次结构的情况下，实现了高效的负载均衡。

ABSTRACT

We describe a consistent hashing algorithm which performs multiple lookups per key in a hash table of nodes. It requires no additional storage beyond the hash table, and achieves a peak-to-average load ratio of 1 + epsilon with just 1 + 1/epsilon lookups per key.

研究动机与目标

• 为解决传统一致性哈希方案中在朴素哈希下峰值-平均负载比可高达 $\Theta(\ln n)$ 的问题。
• 设计一种一致性哈希算法，保持 $O(n)$ 空间、$O(1)$ 摊销更新时间与 $O(1)$ 查找时间，同时实现接近最优的峰值-平均负载比。
• 克服现有方法（如环形一致性哈希，内存占用高；跳跃一致性哈希，不支持节点删除）的局限性，实现高效、一致且可扩展的负载均衡。
• 为环形一致性哈希提供一种实用的替代方案，可在不产生过高内存或初始化成本的前提下，支持大规模节点数量。

提出的方法

• 该算法将每个键 $K$ 次哈希到单位环上，并将该键分配给任意一个 $K$ 个键哈希值最近的节点。
• 使用单个哈希表存储物理节点，消除了对虚拟节点的需求，降低了内存开销。
• 该方法利用泊松过程和指数间距的统计特性，通过 $K=2$ 次探测来界定最大负载。
• 当 $K \geq 2$ 且 $K \ll \sqrt{n}/\ln n$ 时，期望最大负载为 $\frac{K}{K-1} \cdot \frac{1}{n} + o(1/n)$，当 $K=1+1/\varepsilon$ 时，确保峰值-平均比为 $1+\varepsilon$。
• 该算法支持动态节点插入与删除，每次操作的摊销时间为 $O(1)$，并保持一致性。
• 它避免了预设的层次结构或预计算结构，使得在具有动态节点集合的分布式系统中部署成为可能。

实验结果

研究问题

• RQ1 一致性哈希能否仅使用 $O(n)$ 空间和 $O(1)$ 摊销更新时间，实现 $1+\varepsilon$ 的峰值-平均负载比？
• RQ2 能否仅通过每个键增加 $O(1)$ 次额外探测（无需虚拟节点）将峰值-平均负载比从 $\Theta(\ln n)$ 降低至 $O(1)$？
• RQ3 多探针一致性哈希在内存使用、初始化时间和更新性能方面与环形一致性哈希相比如何？
• RQ4 该方法能否在支持任意节点删除的同时维持负载均衡与一致性？
• RQ5 当使用 $K=2$ 次探测时，负载均衡与查找时间之间的性能权衡如何？

主要发现

• 当 $K=2$ 次键探测时，期望峰值-平均负载比被限制在 $2$，实际中可达到 $1.05$ 的比值，每次键分配耗时 $350-600$ ns。
• 该算法仅需 $O(n)$ 空间，每个节点仅在哈希表中存储一次，并支持插入与删除操作的 $O(1)$ 摊销时间。
• 每个节点的初始化时间恒定在约 40 ns（最多 100,000 个节点），相比之下，环形一致性哈希的初始化时间随 $O(n \ln n / \varepsilon^2)$ 增长，扩展性差。
• 查找时间为 $O(1/\varepsilon)$，当 $\varepsilon=0.05$ 时，每次查找耗时 $O(1)$，且在 100,000 个节点时仍保持稳定。
• 更新时间为 $O(1)$ 摊销，显著优于环形一致性哈希，后者每次更新所需时间多出数个数量级。
• 由于其恒定的内存和初始化开销，该方法可扩展至比环形一致性哈希更大的节点集合，适用于大规模分布式系统。