[論文レビュー] A General Theory of Computational Scalability Based on Rational Functions

Neil J. Günther|ArXiv.org|Aug 11, 2008

Parallel Computing and Optimization Techniques参考文献 16被引用数 27

ひとこと要約

本稿では、状態依存サービスレートを有するマシン修理屋モデルの同期スループット限界が、線形分子と2次分母を持つ有理関数としてのユニバーサルスケーラビリティ則（USL）に等価であることを証明することにより、計算スケーラビリティの統一的基盤を確立する。主な貢献は、アムダールの法則とグスタフソンのスループット向上が、このモデルの帰結であることを示したことであり、2次分母を有するこのような有理関数が、実用的なすべてのスケーラビリティ行動を捉えるために必要かつ十分であることを示している。

ABSTRACT

The universal scalability law of computational capacity is a rational function C_p = P(p)/Q(p) with P(p) a linear polynomial and Q(p) a second-degree polynomial in the number of physical processors p, that has been long used for statistical modeling and prediction of computer system performance. We prove that C_p is equivalent to the synchronous throughput bound for a machine-repairman with state-dependent service rate. Simpler rational functions, such as Amdahl's law and Gustafson speedup, are corollaries of this queue-theoretic bound. C_p is further shown to be both necessary and sufficient for modeling all practical characteristics of computational scalability.

研究の動機と目的

• アムダールの法則とユニバーサルスケーラビリティ則（USL）に、これまでにない物理的・キュー理論的解釈を提供すること。
• 本稿のモデルにおいて、USL関数が状態依存サービスレートを有する閉鎖型キューイングモデルにおける同期スループット限界として自然に出現することを示すこと。
• アムダールの法則とグスタフソンのスループット向上を、1つのより一般的なキュー理論的モデルの帰結として統一すること。
• 2次分母を有する有理関数が、計算スケーラビリティのすべての実用的ケースをモデル化するために、必要かつ十分であることを証明すること。

提案手法

• 状態依存サービスレートを有するマシン修理屋モデルのスループット限界を導出し、それがUSL形式と一致することを示す。
• 物理的プロセッサに対応する有限個のリクエスト（p）を有する閉鎖型キューイングモデルを用いる。これは、先行研究で用いられたオープンモデルとは対照的である。
• 本モデルにおいてUSL関数が同期スループット限界として出現することを確立し、これは最悪ケースのスケーラビリティを表す。
• 特定のパrameter値（例：κ=0 でアムダール、σ=0 でグスタフソン）を設定することで、アムダールの法則とグスタフソンのスループット向上がこの限界の特殊ケースであることを証明する。
• 有理関数 f(p)=P(p)/Q(p) の逆関数を直接求めず、遅延関数 Tp の加法的性質を用いることで、非可逆関数や多価逆関数に起因する問題を回避する。
• 補題1を活用して遅延関数を逆転させ、対応するスループットスケーリングを導出し、解析的厳密性を保証する。

実験結果

リサーチクエスチョン

• RQ1 ユニバーサルスケーラビリティ則（USL）は、経験的フィットとして扱われるのではなく、根本的なキュー理論的モデルから導出可能か？
• RQ2 アムダールの法則とグスタフソンのスループット向上を特殊ケースとして含む、1つの統一的キューイングモデルが存在するか？
• RQ3 なぜ2次分母を有する有理関数が、すべての実用的スケーラビリティ行動をモデル化するために必要かつ十分なのか？
• RQ4 USLにおけるパrameter σ と κ の物理的解釈は何か？それらはキューイング現象とどのように関係するか？

主な発見

• USL関数は、状態依存サービスレートを有するマシン修理屋モデルの同期スループット限界と数学的に等価である。
• アムダールの法則とグスタフソンのスループット向上が、より一般的なキュー理論的限界の帰結であることが証明され、それらの物理的根拠に関する長年の曇りが解消された。
• 2次分母を有する有理関数は、すべての実用的スケーラビリティ特性をモデル化するために、必要かつ十分であることが確認され、USLの普遍的適用性が裏付けられた。
• 本モデルは、シリアル部分σを、マシンが故障状態にある確率の定常確率として解釈でき、キュー理論と直接的に結びついた。
• スループット関数の逆関数を直接求めず、遅延関数 Tp を用いることで、非可逆有理関数に起因する数学的落とし穴を回避した。
• 解析により、同期実行が最悪ケースのスケーラビリティを表し、達成可能なパフォーマンスの下限を提供することが示された。