[論文レビュー] A proactive autoscaling and energy-efficient VM allocation framework using online multi-resource neural network for cloud data center

Deepika Saxena, Ashutosh Kumar Singh|arXiv (Cornell University)|Dec 4, 2022

Cloud Computing and Resource Management被引用数 7

ひとこと要約

本論文は、クラウドデータセンターにおけるオンラインマルチリソースニューラルネットワーク（OM-FNN）を用いた、能動的でエネルギー効率の良いVMオートスケーリングおよび割り当てフレームワークを提案する。複数リソースの需要を予測し、ワークロードをクラスタリングし、マルチオブジェクティブ最適化によりエネルギー効率の高い物理マシンにVMを配置することで、ベースライン手法と比較して最大88.5％の電力節約と21.12％の高いリソース利用率を達成する。

ABSTRACT

This work proposes an energy-efficient resource provisioning and allocation framework to meet the dynamic demands of future applications. The frequent variations in a cloud user's resource demand lead 'to the problem of excess power consumption, resource wastage, performance, and Quality-of-Service degradation. The proposed framework addresses these challenges by matching the application's predicted resource requirement with the resource capacity of VMs precisely and thereby consolidating the entire load on the minimum number of energy-efficient physical machines. The three consecutive contributions of the proposed work are: Online Multi-Resource Feed-forward Neural Network to forecast the multiple resource demands concurrently for future applications; autoscaling of VMs based on the clustering of the predicted resource requirements; allocation of the scaled VMs on the energy-efficient PMs. The integrated approach successively optimizes resource utilization, saves energy and automatically adapts to the changes in future application resource demand. The proposed framework is evaluated by using real workload traces of the benchmark Google Cluster Dataset and compared against different scenarios including energy-efficient VM placement with resource prediction only, VMP without resource prediction and autoscaling, and optimal VMP with autoscaling based on actual resource utilization. The observed results demonstrate that the proposed integrated approach achieves near-optimal performance against optimal VMP and outperforms rest of the VMPs in terms of power saving and resource utilization up to 88.5% and 21.12% respectively. In addition, the OM-FNN predictor shows better accuracy, lesser time and space complexity over a traditional single-input and single-output feed-forward neural network predictor.

研究の動機と目的

• クラウドデータセンターにおける動的ワークロード変動が引き起こすリソースの無駄遣い、パフォーマンスの低下、および高電力消費を解消すること。
• リアルタイムで複数リソース需要（CPU、メモリ、I/O）を予測する能動的システムを構築し、効率的なVMオートスケーリングを可能にすること。
• QoSを維持しながらアクティブなPM（物理マシン）数を最小限に抑え、エネルギー消費を低減するようにVMの配置を最適化すること。
• 予測、オートスケーリング、配置を統合した一元化されたフレームワークにより、近似的最適なパフォーマンスを達成すること。
• 実世界のワークロードトレースを用いて、既存手法を上回る電力効率とリソース利用率を実現すること。

提案手法

• 時間的・空間的複雑度が従来のSISO-FNNよりも低い、複数リソース需要（CPU、メモリ、I/O）を同時に予測可能なオンラインマルチリソースフィードフォワードニューラルネットワーク（OM-FNN）を設計した。
• 予測されたリソース要件に基づいてワークロードをクラスタリングし、類似したアプリケーションをグループ化して効率的なVMプロビジョニングを可能にした。
• クラスタ固有のリソース予測に基づいて能動的にVMオートスケーリングを実行し、過剰プロビジョニングを回避しながら十分な容量を確保した。
• 負荷のバランスを保ちながらアクティブなPM数と電力使用量を最小化するためのマルチオブジェクティブVM配置アルゴリズム（MLB）を提案し、パレート最適解を得るために微分進化を用いた。
• 予測、オートスケーリング、配置を閉ループシステムとして統合し、継続的にエネルギー効率とリソース効率を最適化した。
• 本手法は、実際のGoogleクラスタデータセットのトレースを用いて評価され、ベストフィット、ランダムフィット、および実利用率を反映した最適配置を含む複数のベースラインと比較された。

Figure 1: Bird eye view of proposed work

実験結果

リサーチクエスチョン

• RQ1 1つのオンラインマルチリソースニューラルネットワークは、複数の単出力ネットワークよりも、クラウドVMの複数リソース需要予測において優れた性能を示すか？
• RQ2 予測されたワークロードに基づく能動的オートスケーリングは、リソース利用率の向上と電力消費の低減にどの程度寄与するか？
• RQ3 提案されたマルチオブジェクティブVM配置アルゴリズムは、ヒューリスティックベースの手法と比較して、アクティブなPM数と電力使用量の低減にどの程度効果的か？
• RQ4 統合されたフレームワークは、正確な最適アルゴリズムと比較して、エネルギー効率とリソース利用率において近似的最適なパフォーマンスを達成できるか？
• RQ5 データセンターの規模とワークロードの複雑さが増加するに従い、本フレームワークのパフォーマンスはどのように変化するか？

主な発見

• 提案されたPA-VMPフレームワークは、WPWA-VMPベースラインと比較して最大88.5％の電力節約と21.12％の高いリソース利用率を達成した。
• OM-FNN予測器は、従来のSISO-FNNよりも高い精度と低い時間的・空間的複雑度を示し、より高速で効率的な複数リソース予測を可能にした。
• Best-Fit（BF-VMP）と比較して、アクティブなPM数は84.3％削減され、Random-Fit（RF-VMP）と比較して85.1％削減され、エネルギー消費が顕著に低減された。
• 電力消費は、Best-Fit（BF-VMP）と比較して70.7–89.8％、Random-Fit（RF-VMP）と比較して70.2–91.1％削減され、特に200台のVMを有する小規模データセンターで最大の節約効果が観察された。
• フレームワークは近似的最適なパフォーマンスを達成し、正確な最適アルゴリズム（OA-VMP）の結果と非常に近いものとなり、特に電力節約とリソース利用率において顕著であった。
• 予測、オートスケーリング、最適化された配置の統合により、VM移行回数が減少し、負荷の統合が促進され、全体のシステム効率が向上した。

Figure 2: Workflow of proposed predictive and autoscaling framework