[論文レビュー] Balanced Overlay Networks (BON): Decentralized Load Balancing via Self-Organized Random Networks

Jesse S. A. Bridgewater, P. Oscar Boykin+1 more|ArXiv.org|Nov 15, 2004

Distributed and Parallel Computing Systems参考文献 25被引用数 4

ひとこと要約

Balanced Overlay Networks (BON) は、分散型で自己組織的であるフレームワークであり、ノードのリソース利用可能性をオーバーレイネットワークのトポロジーに符号化し、短いランダムウォークを用いて、利用可能容量が最も高いノードにジョブを割り当てる。中央集権的な調整なしにスケーラブルで効率的な負荷分散を実現し、シミュレーションでは理論的下限を上回る性能を示し、最適な d-regular ランダムグラフの挙動に近づく。

ABSTRACT

We present a novel framework, called balanced overlay networks (BON), that provides scalable, decentralized load balancing for distributed computing using large-scale pools of heterogeneous computers. Fundamentally, BON encodes the information about each node's available computational resources in the structure of the links connecting the nodes in the network. This distributed encoding is self-organized, with each node managing its in-degree and local connectivity via random-walk sampling. Assignment of incoming jobs to nodes with the most free resources is also accomplished by sampling the nodes via short random walks. Extensive simulations show that the resulting highly dynamic and self-organized graph structure can efficiently balance computational load throughout large-scale networks. These simulations cover a wide spectrum of cases, including significant heterogeneity in available computing resources and high burstiness in incoming load. We provide analytical results that prove BON's scalability for truly large-scale networks: in particular we show that under certain ideal conditions, the network structure converges to Erdos-Renyi (ER) random graphs; our simulation results, however, show that the algorithm does much better, and the structures seem to approach the ideal case of d-regular random graphs. We also make a connection between highly-loaded BONs and the well-known ball-bin randomized load balancing framework.

研究の動機と目的

• 中央集権的な調整なしに、大規模で異種のコンピューティング環境向けに分散型でスケーラブルな負荷分散フレームワークを設計すること。
• ローカルな情報と動的ネットワークトポロジーのみを用いて、効率的なジョブ割り当てを可能にすること。
• ランダムグラフの性質を活用し、単一障害点を避けることで、レジリエンスとフェイルセーフを確保すること。
• BON の性能を確立されたボール・ビン乱択負荷分散理論と結びつけることで理論的妥当性を検証すること。
• 多様なワークロードとネットワーク環境における広範なシミュレーションを通じて、実用的妥当性を示すこと。

提案手法

• 各ノードのインデグリは、その未使用計算リソースを反映するように動的に維持され、リソース利用状況に応じてエッジが追加または削除される。
• ジョブ割り当ては、ノードをサンプリングし、インデグリが最大（リソースが最も空いている）ノードを選択するグリーディなランダムウォークによって実行される。
• ネットワークトポロジーは、ローカルで分散型の行動によって進化する：ノードはリソース使用状況とランダムウォークのフィードバックに基づき接続性を調整する。
• リソースパワーはベースラインベンチマークを用いて量子化され、各エッジは標準化された計算容量単位を表す。
• システムは低コストの状態維持のため UDP を使用し、接続オーバーヘッドを低減するためソフトステートメカニズムに依存する。
• アルゴリズムは標準ネットワーキングプロトコルと互換性があり、SSIクラスターやグリッドコンピューティング、パブリックリソースプロジェクトなどの既存分散システムへの統合をサポートする。

実験結果

リサーチクエスチョン

• RQ1 中央集権的調整なしに、大規模で異種のネットワークにおいて、分散型負荷分散システムが近似的に最適な性能を達成できるか？
• RQ2 オーバーレイネットワークトポロジーの動的進化が、負荷分散効率とスケーラビリティに与える影響は何か？
• RQ3 現実的な条件下で、BONフレームワークの構造がどれほど Erdös-Rényi や d-regular グラフといった理想のランダムグラフモデルに収束するか？
• RQ4 BON の性能は、理論的下限と確立されたボール・ビン乱択負荷分散モデルと比べてどうか？
• RQ5 ネットワークの異種性とバースト性の高いワークロードが、BON がリソース利用をバランスよく維持する能力に与える影響は何か？

主な発見

• BON フレームワークは、大規模ネットワークにおけるスケーラブルな負荷分散を達成しており、シミュレーション結果では理論的下限を著しく上回る性能を示している。
• 理想状態ではネットワーク構造は Erdös-Rényi ランダムグラフに収束するが、実際にはよりバランスの取れた d-regular ランダムグラフ構造に近づく。
• ランダムグラフトポロジーの本質的レジリエンスと単一障害点の欠如により、高いレジリエンスとフェイルセーフ性を維持している。
• 過負荷状態でも、ボール・ビン負荷分散フレームワークと同様に「2つの選択の力」効果により、強力なバランス性能を維持している。
• 高いバースト性と顕著なノード能力の差異に対しても、状態維持にかかるオーバーヘッドを最小限に抑えつつ、効率的な動作を維持している。
• ベースラインベンチマークを用いたリソース表現の量子化により、低出力ノードでさえも最適バランスの 10% 以内に負荷を維持できる。