[論文レビュー] Tycoon: an Implementation of a Distributed, Market-based Resource Allocation System

Kevin Lai, Lars Rasmusson+4 more|arXiv (Cornell University)|Dec 8, 2004

Distributed and Parallel Computing Systems参考文献 27被引用数 23

ひとこと要約

Tycoonは、連続的でユーザー主導の入札を用いる分散型で市場ベースのリソース割り当てシステムを提案しており、大規模クラスタにおける計算リソースの低遅延で経済的に効率的な割り当てを実現する。入札とリアルタイムのやり取りを分離し、ローカルなオークショービング・エージェントを活用することで、高負荷下でも30秒未塔のリソース再割り当てと5%未満のオーバーヘッドを達成する。また、クレジットベースの入札により、真実の価値評価を促進する。

ABSTRACT

Distributed clusters like the Grid and PlanetLab enable the same statistical multiplexing efficiency gains for computing as the Internet provides for networking. One major challenge is allocating resources in an economically efficient and low-latency way. A common solution is proportional share, where users each get resources in proportion to their pre-defined weight. However, this does not allow users to differentiate the value of their jobs. This leads to economic inefficiency. In contrast, systems that require reservations impose a high latency (typically minutes to hours) to acquire resources. We present Tycoon, a market based distributed resource allocation system based on proportional share. The key advantages of Tycoon are that it allows users to differentiate the value of their jobs, its resource acquisition latency is limited only by communication delays, and it imposes no manual bidding overhead on users. We present experimental results using a prototype implementation of our design.

研究の動機と目的

• グリッドやPlanetLabのような分散システムにおける比例配分や予約ベースのリソース割り当ての非効率性を解消すること。
• 頻繁なインタラクティブな入札を排除することで、市場ベースのシステムにおけるユーザーの負担を軽減しつつ、低遅延でのリソース取得を維持すること。
• 中央集権的な市場に依存するのではなく、ホストに分散されたオークショービング・エージェントを採用することで、スケーラビリティと信頼性を向上させること。
• 手動による介入や高遅延の入札サイクルを必要とせずに、ユーザーがジョブに対して異なる価値を表現できること。
• 連続的入札とベスト・リスポンスアルゴリズムが、実世界のクラスタにおいて、効率的でスケーラブルかつ低オーバーヘッドのリソース割り当てを達成できることを実証すること。

提案手法

• 各ホストがLinux VServersを用いて仮想化されたCPUリソースを管理するローカルオークショービング・プロセスを実行し、オークショービング・エージェントが障害を起こしてもフェイルセーフを実現する。
• ユーザーは(ホスト, リソース, クレジット, 時間間隔)の形式で連続的に入札を提出し、キャンセルされるか資金が尽きるまで有効である。
• リソースの割り当ては、時間間隔あたりの入札価値（b^r_i / t^r_i）に比例するため、ユーザーの価値評価に基づいた効率的な分配が保証される。
• エージェントは予算制約を守りながらユーザーのユーティリティを最大化するために、複数のホストにわたる入札を動的に調整するベスト・リスポンスアルゴリズムを用いる。
• ユーザーが複数のサーバーにわたるバランスを維持する分散型クレジットメカニズムを採用し、銀行基盤における単一障害点を回避する。
• パフォーマンスとスケーラビリティを評価するために、パロアルトとブリストルにまたがる22ホストのクラスタにプロトタイプを展開。使用したハードウェアは小型（450 MHz x86、100 MB/s イーサーネット）。

実験結果

リサーチクエスチョン

• RQ1 分散型市場ベースのシステムは、頻繁なユーザー入札を要さずに低遅延のリソース割り当てを達成できるか？
• RQ2 連続的入札は、従来の比例配分や予約ベースの割り当てと比較して、経済的効率性とシステムオーバーヘッドの点でどのように異なるか？
• RQ3 分散型オークショービング・エージェントは、中央集権的な市場メカニズムと比較して、スケーラビリティと信頼性をどの程度向上できるか？
• RQ4 標準的なコンピューティング環境に市場ベースの割り当てレイヤーを統合する際のパフォーマンスオーバーヘッドはどの程度か？
• RQ5 ベスト・リスポンス入札戦略は、最小限のユーザー介入で複数の分散市場においてユーザーのユーティリティを効果的に最適化できるか？

主な発見

• Tycoonは、クラスタの22台のホストを30秒未塔で再割り当てし、動的負荷下でも低遅延のリソース再構成を実現した。
• 通常のタスクにおいて、非-Tycoonホストと比較して5%未満のオーバーヘッドに抑えられ、パフォーマンスへの影響は最小限であった。
• プロトタイプは最大500台のホストと24名の同時アクティブユーザーをサポートでき、ホスト-ユーザーの組み合わせの積が12,000に達した。これは強力な水平スケーラビリティを示している。
• 明示的なユーザー入札がなくても、エージェントが利用可能なクレジットと市場シグナルに基づいて最適化することで、効率的なリソース使用を促進した。
• 分散型オークショービング・エージェントモデルにより、1つのオークショービング・エージェントの障害が他のホストのリソース割り当てに影響を与えない、システムのレジリエンスが向上した。
• 連続的入札モデルにより、ユーザーは一度入札を提出しておけば忘れることができ、それでもタイムリーかつ効率的な割り当てが達成された。