[論文レビュー] A Cost-Effective Workload Allocation Strategy for Cloud-Native Edge Services

Valentino Armani, Francescomaria Faticanti+3 more|arXiv (Cornell University)|Oct 25, 2021

Cloud Computing and Resource Management被引用数 4

ひとこと要約

本稿では、リプリカ配列（replicasArray）に基づく新規ヒューリスティックを用いて、ハイブリッドクラウド環境におけるクラウドネイティブエッジサービスのコスト効率の高いワークロード割り当て戦略を提案する。この手法は、負荷分散に重点を置いたソリューションと比較して、50%以上のコスト削減を達成しながら、動的ワークロード下でも許容できるパフォーマンスを維持する。シミュレーションおよび実際のKubernetesデプロイメントによる検証が行われた。

ABSTRACT

Nowadays IoT applications consist of a collection of loosely coupled modules, namely microservices, that can be managed and placed in a heterogeneous environment consisting of private and public resources. It follows that distributing the application logic introduces new challenges in guaranteeing performance and reducing costs. However, most existing solutions are focused on reducing pay-per-use costs without considering a microservice-based architecture. We propose a cost-effective workload allocation for microservice-based applications. We model the problem as an integer programming problem and we formulate an efficient and near-optimal heuristic solution given the NP-hardness of the original problem. Numerical results demonstrate the good performance of the proposed heuristic in terms of cost reduction and performance with respect to optimal and state-of-the-art solutions. Moreover, an evaluation conducted in a Kubernetes cluster running in an OpenStack ecosystem confirms the feasibility and the validity of the proposed solution.

研究の動機と目的

• パブリッククラウドコストを最小限に抑えると同時に、アプリケーションのパフォーマンス制約を満たすことを目的とする。
• 異種のプライベートクラウドおよびパブリッククラウドリソースにまたがるマイクロサービスベースのクラウドネイティブエッジアプリケーションにおける、効率的なワークロードオーケストレーションを可能とすること。
• 動的トラフィックリダイレクトをコストと負荷分散基準に基づき、リアルタイムで実行できるスケーラブルなソリューションを提供すること。
• シミュレーションおよび実世界のKubernetes/OpenStack環境において、最適解および最先端のソリューションと比較して、ヒューリスティックのパフォーマンスを検証すること。
• 動的リージョンのアクティベートおよびデアクティベートを通じて、ワークロードの変動に弾力的に適応できること。

提案手法

• ワークロード割り当て問題を、仮想ネットワーク埋め込み（VNE）問題と同等の整数プログラミングモデルとして定式化する。
• コスト削減とマイクロサービス間の負荷分散の2つの基準に基づく、新規のヒューリスティックアルゴリズムを提案する。
• 「リプリカ配列（replicasArray）」という概念を導入する。これは、残りのホスト容量に基づいてリクエストを分散する集中型のトラフィックスプリッティングメカニズムである。
• リアルタイムのパフォーマンスおよびコストのしきい値に基づき、リージョンを動的にアクティブ化または非アクティブ化する動的サービス再構成機構（DSR）を採用する。
• シミュレーションおよびOpenStack環境内でのKubernetesクラスタを用いた実世界の評価を通じて、ヒューリスティックの妥当性を検証する。
• 実行時推定と適応的スケジューリングを適用し、ワークロードの変化に応じてデプロイ構成を動的に調整する。

実験結果

リサーチクエスチョン

• RQ1 パブリッククラウドコストをアプリケーションパフォーマンスを損なわずにハイブリッドクラウド環境で最小限に抑えるにはどうすればよいか？
• RQ2 マイクロサービスベースのエッジアプリケーションにおいて、動的トラフィックリダイレクトがコストとパフォーマンスに与える影響は何か？
• RQ3 リプリカ配列（replicasArray）に基づくヒューリスティックは、最適解および最先端のソリューションと比較して、負荷分散とコスト削減の両面でどの程度効果的か？
• RQ4 提案されたヒューリスティックは、リアルタイムで変動するワークロードパターンに効果的に適応できるか？
• RQ5 リプリカ配列（replicasArray）のサイズがシステムパフォーマンスおよびコスト効率に果たす役割は何か？

主な発見

• 提案されたヒューリスティックは、負荷分散に重点を置いたベースラインソリューションと比較して、パブリッククラウドコストを50%以上削減した。
• すべてのテストワークロードシナリオ、特に急激なトラフィックの増加が発生した場合を含めても、アプリケーションの完了時間が事前に定義されたしきい値内に保たれた。
• 高負荷状態でも、リクエスト完了時間のばらつきが最小限に抑えられ、効果的な負荷分散が実現された。
• DSRアルゴリズムは、ワークロードのトレンドを適切に検出でき、リージョンの動的アクティベート／デアクティベートを実行し、不要なパブリックリソース使用を削減した。
• OpenStack上でのKubernetesクラスタにおける実世界のデプロイメントによる評価により、ソリューションの実用性と有効性が確認された。
• 根本的な問題がNP困難であるにもかかわらず、ヒューリスティックはほぼ最適なコストパフォーマンスを達成した。