[論文レビュー] Adaptive Event Dispatching in Serverless Computing Infrastructures

Manuel Stein|arXiv (Cornell University)|Jan 10, 2019

Cloud Computing and Resource Management参考文献 31被引用数 5

ひとこと要約

本論文は、データローカリティと需要予測に基づいてイベントを動的に集約することで、リソース効率を向上させる、サーバess計算向けの新しい適応的イベントディスpatchアルゴリズムNOAHを提案する。非協力的オンライン割り当てヒューリスティックを用いることで、NOAHは応答時間を短縮し、リソースコストを削減し、変動するワークロード下でOpenWhiskやビンパッキングヒューリスティックと比較して30%の効率向上を達成する。

ABSTRACT

Serverless computing is an emerging Cloud service model. It is currently gaining momentum as the next step in the evolution of hosted computing from capacitated machine virtualisation and microservices towards utility computing. The term "serverless" has become a synonym for the entirely resource-transparent deployment model of cloud-based event-driven distributed applications. This work investigates how adaptive event dispatching can improve serverless platform resource efficiency and contributes a novel approach that allows for better scaling and fitting of the platform's resource consumption to actual demand.

研究の動機と目的

• データローカリティの認識を通じて、データ転送とコンテキスト同期のオーバーヘッドを低減することにより、サーバessプラットフォームの効率を向上させること。
• 推定されたリソース需要に合わせて仮想割り当てを動的にスケーリングすることで、変動するワークロード需要に対処すること。
• システム遅延と割り当てコストのトレードオフを最適化することで、応答時間とリソース利用率のバランスを取ること。
• 提案されたディスパッチ戦略を既存のヒューリスティックと比較して評価・検証できるシミュレーションフレームワークを開発すること。
• 将来的なサーバessスケジューリングおよびリソース割り当て分野の研究を支援するための再利用可能なシミュレーションモデルを提供すること。

提案手法

• 応答時間、リソースコスト、データローカリティの目標をもつ多目的最適化として、サーバessスケジューリング問題を定式化する。
• 予測された負荷に基づいてイベントを仮想ワーカーに割り当てる、非協力的オンライン割り当てヒューリスティック（NOAH）を導入する。
• 類似したデータアクセスパターンを持つイベントをグループ化する仮想割り当て配置を採用し、データ転送とコンテキストスイッチングを最小限に抑える。
• CloudSimを基盤とする離散イベントシミュレーションを用いて、イベントキューイング、インスタンス作成、スケジューリング意思決定を含むサーバessプラットフォームの挙動をモデル化する。
• 応答時間とリソースカバレッジのトレードオフを制御するための可変パラメータαを適用し、ワークロードレベルに応じた動的適応を可能にする。
• 合成ワークロードを用いて、NOAHをOpenWhiskのデフォルトロードバランサーやゲーム理論的非協力的ロードバランシングアプローチと比較して評価する。

実験結果

リサーチクエスチョン

• RQ1 動的ワークロードパターンに適応可能なイベントディスパッチは、どのようにしてリソースコストを最小限に抑えながら実現できるか？
• RQ2 データローカリティの認識は、サーバessイベント処理における応答時間の短縮とデータ転送オーバーヘッドの低減に、どの程度寄与するか？
• RQ3 変動する需要下でのサーバessシステムにおいて、応答時間とリソース利用率の最適なトレードオフは何か？
• RQ4 オンラインビンパッキングやOpenWhiskのロードバランシングといった既存手法と比較して、提案されたNOAHヒューリスティックは、効率性およびスケーラビリティの面でどの程度優れているか？
• RQ5 再現可能なサーバessスケジューリングアルゴリズムの評価を支援するため、シミュレーションフレームワークを効果的に設計・検証できるか？

主な発見

• NOAHは、高並列ワークロード下でOpenWhiskのデフォルトロードバランサーよりも30%のリソース効率の向上を達成する。
• α = 10⁻⁴の設定が、すべてのワークロードレベルで応答時間とリソースコストのバランスを最適に保つことができ、効果的なトレードオフ管理を示している。
• データローカリティに基づくイベント集約は、特にOpenWhiskのコンテナベースモデルと比較して、コンテキスト同期のオーバーヘッドを顕著に低減する。
• シミュレーションフレームワークは、NOAHの挙動を効果的に検証し、ベースラインヒューリスティックとの再現可能な比較を可能にした。
• 動的ワークロード下で、NOAHはオンラインビンパッキングおよび非協力的ゲーム理論的ロードバランシングの両方を上回り、応答時間とリソース利用率の両面で優れた性能を示した。
• 結果から、サーバessプラットフォームは、単純なリクエストベースのロードバランシングを越えて、知的で適応的なディスパッチに移行することで、より高い効率を達成できることが確認された。