[论文解读] Distributionally Linearizable Data Structures

Dan Alistarh, Trevor Brown+3 more|arXiv (Cornell University)|Apr 3, 2018

Distributed systems and fault tolerance参考文献 22被引用 3

一句话总结

本文提出了分布线性化（distributional linearizability）这一新的正确性条件，用于随机化松弛并发数据结构，并证明了多队列（MultiQueues）的变体以及一种新型多计数器（MultiCounter）数据结构，在偏离顺序行为方面具有强概率保证。作者分析了一种具有不一致读取的异步双选择负载均衡过程，表明其在并发执行中具有低偏差和可扩展性，通过实验证明，使用基于多计数器的时戳可将TL2事务算法加速最多3倍。

ABSTRACT

Relaxed concurrent data structures have become increasingly popular, due to their scalability in graph processing and machine learning applications. Despite considerable interest, there exist families of natural, high performing randomized relaxed concurrent data structures, such as the popular MultiQueue pattern for implementing relaxed priority queue data structures, for which no guarantees are known in the concurrent setting. Our main contribution is in showing for the first time that, under a set of analytic assumptions, a family of relaxed concurrent data structures, including variants of MultiQueues, but also a new approximate counting algorithm we call the MultiCounter, provides strong probabilistic guarantees on the degree of relaxation with respect to the sequential specification, in arbitrary concurrent executions. We formalize these guarantees via a new correctness condition called distributional linearizability, tailored to concurrent implementations with randomized relaxations. Our result is based on a new analysis of an asynchronous variant of the classic power-of-two-choices load balancing algorithm, in which placement choices can be based on inconsistent, outdated information (this result may be of independent interest). We validate our results empirically, showing that the MultiCounter algorithm can implement scalable relaxed timestamps, which in turn can improve the performance of the classic TL2 transactional algorithm by up to 3 times, for some settings of parameters.

研究动机与目标

• 为流行的松弛并发数据结构（如多队列和近似计数器）缺乏形式化正确性保证的问题提供解决方案。
• 形式化一种适用于随机化、松弛并发数据结构的正确性条件，其中传统线性化不再适用。
• 分析在并发执行中，异步性和不一致读取下双选择负载均衡过程的鲁棒性。
• 通过实证展示多计数器（MultiCounter）在真实世界算法（如TL2）中提升性能的实用性。
• 提供首个分析框架，用于理解任意并发环境下随机化并发数据结构的行为与保证。

提出的方法

• 提出分布线性化作为正确性条件，将并发执行映射为带代价函数和偏差分布的松弛顺序过程。
• 分析经典双选择负载均衡算法的异步变体，其中选择基于过时值，证明其在对抗性交错执行下仍能保持低不平衡性（O(log log n)）。
• 形式化多计数器（MultiCounter）为一种分布式计数器，线程选择两个随机计数器，递增较小者，并返回一个随机选择的计数器，再按n缩放以维持数量级。
• 证明多计数器在分布线性化意义下等价于一个顺序双选择负载均衡过程，确保偏差有界且具备可扩展性。
• 将该框架扩展至多队列（MultiQueues），首次为这种流行的松弛优先队列模式提供形式化保证。
• 实现并评估基于多计数器的可扩展近似时戳机制在TL2事务内存系统中的性能表现。

实验结果

研究问题

• RQ1 我们能否形式化地指定并推理随机化松弛并发数据结构（如多队列和近似计数器）的行为？
• RQ2 在并发执行中，双选择负载均衡策略在异步和不一致读取下是否依然有效？
• RQ3 我们能否定义一种正确性条件，以捕捉松弛、随机化并发数据结构的概率保证？
• RQ4 多计数器数据结构在实践中在多大程度上保持低偏差和可扩展性？
• RQ5 此类松弛数据结构能否被用于提升现有并发算法的性能？

主要发现

• 具有过时读取的异步双选择负载均衡过程，其最大负载差异的期望值为O(log log n)，即使在对抗性并发下也能确保强负载均衡。
• 多计数器（MultiCounter）被证明在分布线性化意义下等价于一个顺序双选择过程，为其偏离顺序行为提供了正式的概率保证。
• 多队列（MultiQueues）——一种流行的松弛优先队列模式——被形式化证明为分布线性化，为该类数据结构提供了首个分析性保证。
• 实证评估表明，基于多计数器的近似时戳可使TL2事务内存算法在某些参数设置下实现最高3倍的加速。
• 该分析框架具有足够的通用性，可覆盖多种松弛并发数据结构，包括多队列和近似计数器的变体。
• 结果表明，松弛的、随机化的并发数据结构不仅可被形式化分析，而且在高性能系统中具有实际有效性。