[論文レビュー] A Framework for Allocating Server Time to Spot and On-demand Services in Cloud Computing

Xiaohu Wu, Francesco De Pellegrini+2 more|arXiv (Cornell University)|Feb 4, 2019

Cloud Computing and Resource Management参考文献 38被引用数 4

ひとこと要約

本論文は、クラウドコンピューティングにおけるオンデマンドサービスとスポットサービスの間でサーバー時間を動的に割り当てる、画期的なフレームワークを提案している。オンデマンドユーザーは即時に対応され、スポットユーザーは入札後に安定的で長時間にわたる利用が実現される。時間は固定時間幅（k分）の離散スロットに分割され、優先順位ベースの割り当てと最適なスポット価格設定を用いることで、オンデマンドのみのモデルと比較して、クラウドプロバイダーの収益が最大461.5%向上する。

ABSTRACT

Cloud computing delivers value to users by facilitating their access to computing capacity in periods when their need arises. An approach is to provide both on-demand and spot services on shared servers. The former allows users to access servers on demand at a fixed price and users occupy different periods of servers. The latter allows users to bid for the remaining unoccupied periods via dynamic pricing; however, without appropriate design, such periods may be arbitrarily small since on-demand users arrive randomly. This is also the current service model adopted by Amazon Elastic Cloud Compute. In this paper, we provide the first integral framework for sharing the time of servers between on-demand and spot services while optimally pricing spot instances. It guarantees that on-demand users can get served quickly while spot users can stably utilize servers for a properly long period once accepted, which is a key feature to make both on-demand and spot services accessible. Simulation results show that, by complementing the on-demand market with a spot market, a cloud provider can improve revenue by up to 464.7%. The framework is designed under assumptions which are met in real environments. It is a new tool that cloud operators can use to quantify the advantage of a hybrid spot and on-demand service, eventually making the case for operating such service model in their own infrastructures.

研究の動機と目的

• クラウド環境におけるオンデマンドユーザーとスポットユーザーの間で、公平かつ効率的にサーバー時間を共有する統合フレームワークを設計すること。
• オンデマンドユーザーが到着と同時に迅速に対応され、スポットユーザーが入札に成功した後も安定的かつ途切れのない利用が実現されることを保証すること。
• クラウドプロバイダーの収益を最大化する一方で、オンデマンドサービスの品質を損なわないようにするスポットインスタンスの最適価格戦略を開発すること。
• ランダムなオンデマンド到着と変動するスポット入札という現実的な仮定のもとで、フレームワークの妥当性を検証すること。
• 実世界のクラウドインfra構造において、ハイブリッドオンデマンド/スポットモデルを統合することによる収益および利用効率の向上を定量的に評価すること。

提案手法

• 時間は固定時間幅（k分）の離散スロットに分割され、各スロットの開始時にサーバー割り当てを更新することで干渉を最小限に抑える。
• オンデマンドユーザーには優先順位が与えられ、1つのスロット内でのみ対応され、待ち時間が短くなる。
• スポットユーザーは空きサーバー時間の入札を行う。承認された入札は複数スロットにわたって継続的にサーバーに割り当てられ、有効利用時間は少なくとも k−k′ 分以上確保される。
• 並列処理モデルがオンデマンドおよびスポットリクエストを調整し、サーバー割り当てに PTC（優先順位ベースのタイム・チャンクイング）ポリシーを用いる。
• スポット価格は需要に応じて動的に設定され、フレームワークは最小入札額が支払い額となることを保証しており、完了時間や待機コストとは無関係である。
• フレームワークは現実的な条件を仮定している：ランダムなオンデマンド到着、既知のオンデマンド価格、および開始後いつでもキャンセル可能なスポット入札。

実験結果

リサーチクエスチョン

• RQ1 オンデマンドユーザーとスポットユーザーの間でサーバー時間をどのように割り当てれば、オンデマンド応答時間が低く抑えられるとともに、スポット利用が安定的になるか？
• RQ2 スポットインスタンスの価格戦略として、オンデマンドユーザーのサービス品質を損なわず、クラウドプロバイダーの収益を最大化するにはどうすればよいか？
• RQ3 ハイブリッドオンデマンド/スポットモデルは、オンデマンドのみのモデルと比較して、どの程度サーバー利用効率と収益を向上させられるか？
• RQ4 スポット入札の到着レートやシステム負荷が異なる条件下で、フレームワークのパフォーマンスはどのように変化するか？
• RQ5 スロット時間幅と仮想マシンのロード時間は、有効なスポット利用時間とシステム安定性にどのような影響を与えるか？

主な発見

• オンデマンド市場にスポット市場を追加することで、フレームワークはクラウドプロバイダーの収益を最大461.5%向上させる。
• スロットあたり30件のスポット入札がある場合、本フレームワークは Dierks と Seuken (2019) のモデルと比較して、平均単位収益が2.816倍向上する。
• スロットあたり60件のスポット入札では収益向上比が2.181倍、120件では1.736倍にまで低下し、スポット需要が高くなるにつれて収益の増加率が減少する傾向が確認された。
• フレームワークは、各割り当てにおいて、スポットユーザーが少なくとも k−k′ 分間の有効利用時間を確保できることを保証している（k′ はVMロード時間、例：約3分）、これにより意味のある作業実行が可能になる。
• PTCポリシーにより、同じスロット内でオンデマンドユーザーによるスポットジョブのプリエンプション（強制中止）が防止され、安定した割り当てが実現され、信頼性が向上する。
• 特に中程度から高いスポット需要の下では、柔軟な入札と最適価格設定のおかげで、本フレームワークは先行研究（例：Dierks と Seuken, 2019）を上回る収益効率を達成する。