[論文レビュー] In Search of the Fastest Concurrent Union-Find Algorithm.

Dan Alistarh, Alexander Fedorov+1 more|arXiv (Cornell University)|Jan 1, 2019

Distributed systems and fault tolerance被引用数 1

ひとこと要約

この論文は、多様なプラットフォームとワークロードにおける同時実行Union-Findアルゴリズムの評価と最適化を行い、キャッシュミスが主なパフォーマンスボトルネックであることを特定した。ノードの優先度を暗黙的に格納し、安全なプレーンリード/ライトを使用することで、メモリトラフィックを低減し、トランザクショナルメモリを用いたロックの省略を実装した粗粒度ロックバージョンが最も高いパフォーマンスを発揮し、他の同時実行設計を上回った。

ABSTRACT

Union-Find (or Disjoint-Set Union) is one of the fundamental problems in computer science; it has been well-studied from both theoretical and practical perspectives in the sequential case. Recently, there has been mounting interest in analyzing this problem in the concurrent scenario, and several asymptotically-efficient algorithms have been proposed. Yet, to date, there is very little known about the practical performance of concurrent Union-Find. This work addresses this gap. We evaluate and analyze the performance of several concurrent Union-Find algorithms and optimization strategies across a wide range of platforms (Intel, AMD, and ARM) and workloads (social, random, and road networks, as well as integrations into more complex algorithms). We first observe that, due to the limited computational cost, the number of induced cache misses is the critical determining factor for the performance of existing algorithms. We introduce new techniques to reduce this cost by storing node priorities implicitly and by using plain reads and writes in a way that does not affect the correctness of the algorithms. Finally, we show that Union-Find implementations are an interesting application for Transactional Memory (TM): one of the fastest algorithm variants we discovered is a sequential one that uses coarse-grained locking with the lock elision optimization to reduce synchronization cost and increase scalability.

研究の動機と目的

• 理論的な効率性にかかわらず、同時実行Union-Findアルゴリズムの実用的パフォーマンスに関する理解のギャップを埋めること。
• 既存の同時実行Union-Find実装における主なパフォーマンスボトル neck を同定すること。
• 暗黙的優先度の格納とプレーンメモリ操作の安全な使用を通じて、キャッシュミスを低減することでアルゴリズムのパフォーマンスを最適化すること。
• 特にロックの省略を用いた場合に、トランザクショナルメモリがUnion-Findの高速化にどの程度有効であるかを調査すること。

提案手法

• ソーシャルネットワーク、ランダムグラフ、道路網、統合アルゴリズムを含む多様なワークロードを用いて、Intel、AMD、ARMプラットフォームにおけるパフォーマンス測定。
• アルゴリズムの正しさに影響を与えることなく、メモリトラフィックとキャッシュミスを低減するため、ノード優先度の暗黙的格納を導入。
• 正しさを保つように設計された方法でプレーンリードとライトを活用し、同期のオーバーヘッドを最小限に抑える。
• 粗粒度ロックにトランザクショナルメモリを用いたロックの省略を適用し、競合を低減しスケーラビリティを向上。
• 実世界のワークロード下で複数のアルゴリズムバージョンを評価し、パフォーマンスに影響を与える要因を特定。
• メモリアクセスパターンとキャッシュ動作が全体のパフォーマンスに与える影響を分析。

実験結果

リサーチクエスチョン

• RQ1 異なるアーキテクチャにおいて、既存の同時実行Union-Findアルゴリズムの主なパフォーマンスボトル neck は何か？
• RQ2 暗黙的優先度格納は、同時実行Union-Findにおけるメモリトラフィックをどのように低減し、パフォーマンスを向上させるか？
• RQ3 正しさを保つために、同時実行Union-Findにおいてプレーンリードとライトをどの程度安全に使用できるか？
• RQ4 特にロックの省略を用いた場合に、トランザクショナルメモリは同時実行Union-Findのパフォーマンスを顕著に向上させ得るか？
• RQ5 ソーシャル、ランダム、道路網など、異なるワークロードは、Union-Findバージョンの相対的パフォーマンスにどのように影響を与えるか？

主な発見

• 操作の計算コストが低いため、同時実行Union-Findにおける主なパフォーマンスボトル neck はキャッシュミスである。
• ノード優先度を暗黙的に格納することで、メモリトラフィックが低減し、すべてのプラットフォームで顕著なパフォーマンス向上が達成された。
• 正しさを保つように設計されたプレーンリードとライトの使用により、同期のオーバーヘッドが低減し、スケーラビリティが向上した。
• 粗粒度ロックとトランザクショナルメモリによるロックの省略を組み合わせた順次Union-Findバージョンが、最も高速なパフォーマンスを達成した。
• 最適化によるパフォーマンス向上は、Intel、AMD、ARMアーキテクチャのすべてで一貫して観察された。
• アクセスパターンやグラフ構造といったワークロードの特性が、異なるアルゴリズムバージョンの相対的パフォーマンスに顕著な影響を与えた。