[論文レビュー] Distributionally Linearizable Data Structures

Dan Alistarh, Trevor Brown+3 more|arXiv (Cornell University)|Apr 3, 2018

Distributed systems and fault tolerance参考文献 22被引用数 3

ひとこと要約

本稿では、確率的緩和型並列データ構造のための新しい正当性条件である分布線形化可能性（distributional linearizability）を導入し、MultiQueueの変種および新規のMultiCounterデータ構造が、逐次的動作からの逸脱について強い確率的保証を達成することを証明している。著者らは、非同期的で不整合読み込みを伴う二択負荷分散プロセスを分析し、並列実行における低歪みとスケーラビリティを示した。実験的検証として、MultiCounterを用いたタイムスタンプにより、TL2トランザクショナルアルゴリズムの実行速度が最大3倍に向上した。

ABSTRACT

Relaxed concurrent data structures have become increasingly popular, due to their scalability in graph processing and machine learning applications. Despite considerable interest, there exist families of natural, high performing randomized relaxed concurrent data structures, such as the popular MultiQueue pattern for implementing relaxed priority queue data structures, for which no guarantees are known in the concurrent setting. Our main contribution is in showing for the first time that, under a set of analytic assumptions, a family of relaxed concurrent data structures, including variants of MultiQueues, but also a new approximate counting algorithm we call the MultiCounter, provides strong probabilistic guarantees on the degree of relaxation with respect to the sequential specification, in arbitrary concurrent executions. We formalize these guarantees via a new correctness condition called distributional linearizability, tailored to concurrent implementations with randomized relaxations. Our result is based on a new analysis of an asynchronous variant of the classic power-of-two-choices load balancing algorithm, in which placement choices can be based on inconsistent, outdated information (this result may be of independent interest). We validate our results empirically, showing that the MultiCounter algorithm can implement scalable relaxed timestamps, which in turn can improve the performance of the classic TL2 transactional algorithm by up to 3 times, for some settings of parameters.

研究の動機と目的

• MultiQueue や近似カウンタのような人気のある緩和型並列データ構造に対して、形式的な正当性保証が不足している問題に対処すること。
• 従来の線形化可能性が適用できない、確率的で緩和型の並列データ構造に適した正当性条件を形式化すること。
• 並列実行における非同期性と不整合読み込みの下で、二択負荷分散プロセスの頑健性を分析すること。
• TL2 などの実世界のアルゴリズムで利用可能な性能向上を示すことで、実用的有用性を実証すること。
• 任意の並列環境下での確率的並列データ構造の挙動と保証を理解するための、初めての解析的フレームワークを提供すること。

提案手法

• コスト関数と逸脱の分布をパrameterとする、並列実行を緩和型逐次プロセスにマッピングする正当性条件として、分布線形化可能性を提唱する。
• 選択が古くなった値に基づく、古典的な二択負荷分散アルゴリズムの非同期版を分析し、敵対的インタリーブ下でも低不均衡（O(log log n)）を維持することを証明する。
• スレッドが2つのランダムに選ばれたカウンタから小さい方をインクリメントし、nでスケーリングされたランダムに選ばれたカウンタを返す、分散型カウンタとしてのMultiCounterを形式化する。
• MultiCounter が逐次的二択負荷分散プロセスに対して分布線形化可能であることを証明し、歪みの有界性とスケーラビリティを保証する。
• フレームワークをMultiQueuesに拡張し、この人気のある緩和型優先度キューのパターンに対する、初めての形式的保証を示す。
• MultiCounter を実装し、TL2 トランザクショナルメモリシステムにおけるスケーラブルな近似タイムスタンプメカニズムとして評価する。

実験結果

リサーチクエスチョン

• RQ1 確率的で緩和型の並列データ構造（例：MultiQueue や近似カウンタ）の挙動を形式的に指定し、議論することは可能か？
• RQ2 並列実行における非同期性と不整合読み込みの下でも、二択負荷分散戦略は有効に機能するか？
• RQ3 緩和的かつ確率的な並列データ構造に対して、確率的保証を捉える正当性条件を定義できるか？
• RQ4 MultiCounter データ構造は、実際の動作においてどれほど低い歪みとスケーラビリティを維持できるか？
• RQ5 このような緩和型データ構造は、既存の並列アルゴリズムの性能向上に活用できるか？

主な発見

• 古くなった読み込みを伴う非同期的二択負荷分散プロセスは、期待される最大負荷差が O(log log n) に保たれ、敵対的並列実行下でも強力なバランスを維持する。
• MultiCounter データ構造は、逐次的二択プロセスに対して分布線形化可能であることが証明され、逐次的動作からの逸脱に関する形式的な確率的保証が得られる。
• 人気のある緩和型優先度キューのパターンであるMultiQueuesは、分布線形化可能であることが形式的に示され、このクラスのデータ構造に対する初めての解析的保証が得られた。
• 実験的評価により、MultiCounter を用いた近似タイムスタンプが、特定のパrameter設定下でTL2 トランザクショナルメモリアルゴリズムの実行速度を最大3倍に加速することが示された。
• 分析フレームワークは、MultiQueue の変種や近似カウンタを含む、さまざまな緩和型並列データ構造をカバーする十分な一般性を持つ。
• 結果として、緩和的かつ確率的な並列データ構造が、形式的解析と実用的効果の両方を併せ持つことが示された。