[論文レビュー] A large-scale service system with packing constraints: Minimizing the number of occupied servers

Alexander Stolyar, Yuan Zhong|arXiv (Cornell University)|Dec 4, 2012

Optimization and Search Problems参考文献 4被引用数 10

ひとこと要約

本稿では、パッケージング制約を伴う大規模サービスシステムにおけるリアルタイムで状態に依存するポリシーとして、部分線形安全在庫を用いたグリーディ（GSS）を導入する。GSSは、各サーバ構成における部分線形安全在庫を動的に維持することで、システムパラメータの事前知識がなくても柔軟性を確保し、入力の到着レートが大きくなるに従い、定常状態で使用中のサーバ総数を漸近的に最小化する。また、収束速度が非常にきついものとなる。

ABSTRACT

We consider a large-scale service system model motivated by the problem of efficient placement of virtual machines to physical host machines in a network cloud, so that the total number of occupied hosts is minimized. Customers of different types arrive to a system with an infinite number of servers. A server packing configuration is the vector $k = (k_i)$, where $k_i$ is the number of type-$i$ customers that the server "contains". Packing constraints are described by a fixed finite set of allowed configurations. Upon arrival, each customer is placed into a server immediately, subject to the packing constraints; the server can be idle or already serving other customers. After service completion, each customer leaves its server and the system. It was shown recently that a simple real-time algorithm, called Greedy, is asymptotically optimal in the sense of minimizing $\sum_k X_k^{1+α}$ in the stationary regime, as the customer arrival rates grow to infinity. (Here α>0, and $X_k$ denotes the number of servers with configuration $k$.) In particular, when parameter αis small, Greedy approximately solves the problem of minimizing $\sum_k X_k$, the number of occupied hosts. In this paper we introduce the algorithm called Greedy with sublinear Safety Stocks (GSS), and show that it asymptotically solves the exact problem of minimizing $\sum_k X_k$. An important feature of the algorithm is that sublinear safety stocks of $X_k$ are created automatically - when and where necessary - without having to determine a priori where they are required. Moreover, we also provide a tight characterization of the rate of convergence to optimality under GSS. The GSS algorithm is as simple as Greedy, and uses no more system state information than Greedy does.

研究の動機と目的

• クラウドデータセンターにおける仮想マシンの配置において、多様なリソース要件を満たす物理サーバの使用数を最小化する問題に対処すること。
• システムパラメータや将来予測に依存せず、現在のシステム状態のみに基づいて配置意思決定を行う、シンプルでリアルタイムなポリシーを設計すること。
• 入力の到着レートが非常に大きくなる際、使用中のサーバ総数を漸近的に最小化すること。
• 提案されたポリシー下での最適性への収束速度を特定すること。
• サーバ数の最小化にとどまらず、さまざまなコストを有する構成の重み付き和を最小化する一般化されたコスト最小化目的へのフレームワークの拡張。

提案手法

• リャプノフ関数を用いてリアルタイムの配置意思決定を誘導する、グリーディ・サブラインアー・セーフティ・ストック（GSS）アルゴリズムを提案する。
• すべてのサーバ構成にゼロでない安全在庫を維持するために、配置を動的に調整し、いかなる構成もゼロに下がることを防ぐ。
• 各構成の現在のサーバ数に基づく重み関数を用い、システムサイズに対して部分線形に増加する。
• 局所的フラッドスケーリングを用いて、部分線形安全在庫をフラッドスケールで可視化し、収束解析を可能にする。
• ドリフト解析とフラッド極限技術を用いて、漸近的最適性および収束速度の証明を行う。
• 各構成のコストを重み付けすることにより、一般化されたコスト最小化へのフレームワークの拡張を実施する。

実験結果

リサーチクエスチョン

• RQ1 シンプルでリアルタイムなポリシーが、パッケージング制約を伴う大規模システムにおいて、使用中のサーバ総数を漸近的に最小化できるか？
• RQ2 システムパラメータの事前知識がなくても、安全在庫を自動的に部分線形に生成する方法は何か？
• RQ3 このようなポリシー下での最適性への収束速度はどの程度か？
• RQ4 このフレームワークは、異なるコストを持つ使用中のサーバの重み付き和を最小化するために拡張可能か？
• RQ5 このポリシーはオープンシステムや非単調コスト構造下でも最適性を維持するか？

主な発見

• GSSは、入力フロー率が無限大に近づくにつれ、定常状態で使用中のサーバ総数を漸近的に最小化する。
• アルゴリズムは、どこに必要になるかを事前に知らなくても、すべてのサーバ構成に部分線形安全在庫を自動的に生成し、配置の柔軟性を確保する。
• GSS下での最適性への収束速度はきめ細かく特定されており、適切に選ばれたスケーリングパラメータのもとで、収束誤差が o(r^{2p-1}) の割合で減少する。
• グローバルなシステムパラメータや将来予測を必要とせず、局所的なシステム状態情報のみで、フラッドスケール最適性を達成する。
• 任意の正のコスト cₖ に対して ∑ₖ cₖXₖ を最小化するフレームワークは、やや厳しい条件下でも漸近的最適性および収束速度を維持する。
• 証明は局所的フラッドスケーリングとドリフト解析に依存しており、トークンの有効期限切れと重み関数推定の両方の誤差バウンドをきめ細かく制御している。