[论文解读] A large-scale service system with packing constraints: Minimizing the number of occupied servers

Alexander Stolyar, Yuan Zhong|arXiv (Cornell University)|Dec 4, 2012

Optimization and Search Problems参考文献 4被引用 10

一句话总结

本文提出了一种名为带次线性安全库存的贪心算法（GSS），这是一种适用于具有打包约束的大规模服务系统的实时、基于状态的策略。GSS 通过在每个服务器配置中动态维持次线性安全库存，渐近地最小化稳态下占用的服务器总数，从而在无需事先了解系统参数的情况下保持灵活性，并以紧密的收敛速率实现流体尺度最优性。

ABSTRACT

We consider a large-scale service system model motivated by the problem of efficient placement of virtual machines to physical host machines in a network cloud, so that the total number of occupied hosts is minimized. Customers of different types arrive to a system with an infinite number of servers. A server packing configuration is the vector $k = (k_i)$, where $k_i$ is the number of type-$i$ customers that the server "contains". Packing constraints are described by a fixed finite set of allowed configurations. Upon arrival, each customer is placed into a server immediately, subject to the packing constraints; the server can be idle or already serving other customers. After service completion, each customer leaves its server and the system. It was shown recently that a simple real-time algorithm, called Greedy, is asymptotically optimal in the sense of minimizing $\sum_k X_k^{1+α}$ in the stationary regime, as the customer arrival rates grow to infinity. (Here α>0, and $X_k$ denotes the number of servers with configuration $k$.) In particular, when parameter αis small, Greedy approximately solves the problem of minimizing $\sum_k X_k$, the number of occupied hosts. In this paper we introduce the algorithm called Greedy with sublinear Safety Stocks (GSS), and show that it asymptotically solves the exact problem of minimizing $\sum_k X_k$. An important feature of the algorithm is that sublinear safety stocks of $X_k$ are created automatically - when and where necessary - without having to determine a priori where they are required. Moreover, we also provide a tight characterization of the rate of convergence to optimality under GSS. The GSS algorithm is as simple as Greedy, and uses no more system state information than Greedy does.

研究动机与目标

• 解决在云数据中心中为具有不同资源需求的虚拟机分配物理服务器时，最小化占用物理服务器数量的问题。
• 设计一种简单、实时的策略，仅基于当前系统状态进行放置决策，而不依赖系统参数或未来预测。
• 在输入到达率趋于无穷大的情况下，实现对总占用服务器数量的渐近最优性。
• 表征在所提策略下趋近最优性的收敛速率。
• 将框架扩展至除服务器数量外的一般成本最小化目标。

提出的方法

• 提出带次线性安全库存的贪心算法（GSS），利用李雅普诺夫函数指导实时放置决策。
• 通过动态调整放置策略，在每个服务器配置中维持非零安全库存，防止任何配置降至零。
• 基于每种配置当前的服务器数量使用权重函数，其增长为系统规模的次线性函数。
• 采用局部流体标度，使次线性安全库存在流体尺度下可见，从而支持收敛性分析。
• 应用漂移分析与流体极限技术，证明渐近最优性及收敛速率。
• 通过为每种配置赋予相应的成本权重，将框架扩展至一般成本最小化问题。

实验结果

研究问题

• RQ1 能否设计一种简单、实时的策略，在具有打包约束的大规模系统中渐近最小化总占用服务器数量？
• RQ2 如何在无需事先了解系统参数的情况下，自动且次线性地创建安全库存？
• RQ3 此类策略下的最优性收敛速率是多少？
• RQ4 该框架能否扩展至最小化不同成本下占用服务器的加权和？
• RQ5 该策略在开放系统中或在非单调成本结构下是否仍保持最优性？

主要发现

• 当输入流速率趋于无穷大时，GSS 在稳态下渐近最小化了总占用服务器数量。
• 该算法自动在每个服务器配置中创建次线性安全库存，确保无需事先知晓需求位置即可实现放置灵活性。
• GSS 下的最优性收敛速率被精确表征，收敛误差以 o(r^{2p-1}) 的速率衰减，其中缩放参数选择得当。
• 该方法仅依赖局部系统状态信息，即可实现流体尺度最优性，无需全局系统参数或未来预测。
• 在适度条件下，该框架可推广至最小化 ∑ₖ cₖXₖ（任意正成本 cₖ），并保持渐近最优性与收敛速率。
• 证明依赖于局部流体标度与漂移分析，对令牌过期与权重函数估计的误差边界均进行了精确控制。