[論文レビュー] Mastering Concurrent Computing Through Sequential Thinking: A Half-century Evolution

Sergio Rajsbaum, Michel Raynal|arXiv (Cornell University)|Dec 14, 2018

Distributed systems and fault tolerance参考文献 59被引用数 4

ひとこと要約

この論文は、過去50年にわたり並行計算の進化をたどり、並行問題を逐次的推論に還元するという支配的パラダイムが、分散システム、ブロックチェーン、耐障害計算の分野での進歩を可能にしてきたと主張する。このアプローチは成功を収めたが、性能、一貫性、表現力の面で根本的な限界を抱えており、とくに本質的に並行的な問題や高い可用性・スケーラビリティを要するシステムにおいて顕著である。

ABSTRACT

Concurrency, the art of doing many things at the same time is slowly becoming a science. It is very difficult to master, yet it arises all over modern computing systems, both when the communication medium is shared memory and when it is by message passing. Concurrent programming is hard because it requires to cope with many possible, unpredictable behaviors of communicating processes interacting with each other. Right from the start in the 1960s, the main way of dealing with concurrency has been by reduction to sequential reasoning. We trace this history, and illustrate it through several examples, from early ideas based on mutual exclusion, passing through consensus and concurrent objects, until today ledgers and blockchains. We conclude with a discussion on the limits that this approach encounters, related to fault-tolerance, performance, and inherently concurrent problems.

研究の動機と目的

• 逐次的推論を統一的パラダイムとして用いて、過去50年間における並行計算の歴史的進化をたどること。
• 成功した並行システムの根幹をなす概念的ツール—逐次的仕様、一貫性条件、コンSENSUS、同期化—を特定すること。
• 現代の分散システムにおける逐次的推論アプローチの限界、特に耐障害性、性能、本質的に並行的な問題に関して分析すること。
• ブロックチェーンや分散レジストリのような現代のシステムが、古典的な逐次的抽象化をどのように挑戦するか、あるいは拡張するかを検討すること。
• CAP定理や最終的一貫性を踏まえた上で、分散システムにおける一貫性、可用性、性能のトレードオフを明らかにすること。

提案手法

• 共有メモリにおける相互排他からコンセンサス、ステートマシンレプリケーションに至るまで、並行システムの歴史的発展を分析する。
• 逐次的仕様を並行オブジェクトの指定の基盤とし、線形化可能性と一貫性条件を用いて正しさを保証する。
• ユニバーサル構成の概念を用いて、コンセンサスやトータルオーダーブロードキャストといった基本的プリミティブからレプリケートされたステートマシンを構築する。
• ブロックチェーンシステムを、一時的なフォークと最終的一貫性によって厳密な線形化可能性を緩和することでスケーラビリティを確保する、逐次的推論の現代的応用として分析する。
• 順序付きレジストリ（例：Bitcoin）と部分順序付きレジストリ（例：IOTA、Hashgraph）を比較することで、通信オーバーヘッドを削減する分散レジストリの性能的トレードオフを評価する。
• ABDアルゴリズムやCAP定理といった形式的モデルを用いて、並行システムにおける一貫性と可用性の限界を分析する。

実験結果

リサーチクエスチョン

• RQ1 過去50年間、並行プログラミングを逐次的推論に還元するアプローチが、分散システムの設計と正しさにどのように影響を与えてきたか。
• RQ2 本質的に並行的あるいは高可用性を要するシステムにおいて、逐次的仕様と線形化可能性を用いることの根本的限界は何か。
• RQ3 最終的一貫性やブロックチェーンシステムで見られるように、一貫性保証を緩和することで、性能とスケーラビリティをどの程度向上させられるか。
• RQ4 強い一貫性を求めるにもかかわらず、ブロックチェーンのようなシステムが一時的な不一致（例：フォーク）を許容する理由は何か。
• RQ5 逐次的仕様では捉えきれない本質的に並行的な問題は存在するのか。その代替案は何か。

主な発見

• 逐次的推論パラダイムは、並行システムの開発において中心的役割を果たし、逐次的仕様と一貫性条件を用いた形式的指定と検証を可能にしてきた。
• 線形化可能性は強力な正しさ保証ではあるが、実際には高コストであり、多くの実世界のシステムでは性能と可用性の向上を図るため、しばしば緩和されている。
• Bitcoinのようなブロックチェーンは、一時的なフォークが強い一貫性を損なうが、十分な深さに達すれば最終的に一貫性が保証されるため、高い確率で一貫性が得られるというトレードオフを示している。
• 有向非巡回グラフ（例：IOTA、Hashgraph）に基づく分散レジストリは、グローバルな順序付けを回避し、通信オーバーヘッドを削減することで、より高いスケーラビリティを達成している。
• CAP定理は、一貫性、可用性、パartition耐性の3つを同時に達成できないことを示しており、多くの分散システムにおいて一時的な不一致が避けられない理由を説明している。
• すべての並行的問題が逐次的仕様で表現できるわけではないため、特に動的または極めて並行的な環境では、逐次的推論アプローチに根本的な限界があることが示唆される。