[論文レビュー] Distributed Redundant Placement for Microservice-based Applications at the Edge

Hailiang Zhao, Shuiguang Deng+3 more|arXiv (Cornell University)|Nov 9, 2019

IoT and Edge/Fog Computing参考文献 33被引用数 8

ひとこと要約

本稿では、マルチアクセスエッジコンピューティング（MEC）におけるマイクロサービスベースのアプリケーション向けに、非同一性の高いエッジサイト間での分散型レプリケーション配置フレームワーク「SAA-RP」を提案する。GAベースのサーバー選択（GASS）アルゴリズムを用いて、異種のエッジサイトにわたる配置最適化を実現する。サービスリクエストの不確実性をモデル化し、複数のエッジインスタンスにわたるレプリケーションを活用することで、非レプリケーションのベンチマークと比較して応答時間と可用性が顕著に向上する。実世界のデータを用いた検証によりその有効性が裏付けられている。

ABSTRACT

Multi-access Edge Computing (MEC) is booming as a promising paradigm to push the computation and communication resources from cloud to the network edge to provide services and to perform computations. With container technologies, mobile devices with small memory footprint can run composite microservice-based applications without time-consuming backbone. Service placement at the edge is of importance to put MEC from theory into practice. However, current state-of-the-art research does not sufficiently take the composite property of services into consideration. Besides, although Kubernetes has certain abilities to heal container failures, high availability cannot be ensured due to heterogeneity and variability of edge sites. To deal with these problems, we propose a distributed redundant placement framework SAA-RP and a GA-based Server Selection (GASS) algorithm for microservice-based applications with sequential combinatorial structure. We formulate a stochastic optimization problem with the uncertainty of microservice request considered, and then decide for each microservice, how it should be deployed and with how many instances as well as on which edge sites to place them. Benchmark policies are implemented in two scenarios, where redundancy is allowed and not, respectively. Numerical results based on a real-world dataset verify that GASS significantly outperforms all the benchmark policies.

研究の動機と目的

• 既存のMECにおけるサービス配置手法の限界に対処する。特に、サービスを原子的（アトミック）に扱い、複合的かつ相関関係のあるマイクロサービス構造を無視する傾向があること。
• エッジ環境における高い可用性を向上させる。Kubernetesの自己回復機能にもかかわらず、エッジ環境の非均一性と一時的な障害要因が信頼性を低下させるため。
• 分散エッジサイトにわたるマイクロサービスデプロイメントにレプリケーションを組み込むことで、応答時間を短縮し、負荷分散を実現する。
• エッジサイトの変動性とユーザーのサービス構成スキームの不確実性をモデル化・処理する。
• Kubernetesオーケストレーションと互換性を持つ実用的でスケーラブルなソリューションを設計する。

提案手法

• マイクロサービスリクエストパターンの不確実性とエッジサイトの非均一性を考慮した、確率的最適化モデルとしてレプリケーション配置問題を定式化する。
• サンプル平均近似に基づくレプリケーション配置（SAA-RP）フレームワークを設計し、確率的特性を扱い、分散的かつスケーラブルな意思決定を可能にする。
• GAベースのサーバー選択（GASS）アルゴリズムを提案し、レプリケーションを伴う最適なエッジサイトを効率的に選択する。
• 同じマイクロサービス候補を複数の異なるエッジサイトにデプロイすることでレプリケーションを実装し、遅延低減と障害耐性の向上を図る。
• 応答時間の最小化を目的に、利用可能な最近隣のエッジサイトを選択する戦略を採用し、実用性とパフォーマンスを向上させる。
• Kubernetesにフレームワークを統合し、生産環境でのデプロイメントを可能にし、既存のクラウドネイティブオーケストレーションと互換性を確保する。

実験結果

リサーチクエスチョン

• RQ1 分散エッジサイトにわたるレプリケーション配置は、複合マイクロサービスアプリケーションの応答時間と可用性をどのように向上させるか？
• RQ2 エッジサイトの非均一性とリクエストの不確実性は、サービス配置意思決定にどのような影響を与えるか？
• RQ3 提案されたGASSアルゴリズムは、非レプリケーションおよびベースライン配置ポリシーと比較して、パフォーマンスとスケーラビリティの面でどの程度優れているか？
• RQ4 確率的最適化モデルは、ユーザーが要求するサービス構成の不確実性と動的変化するエッジ環境を効果的に扱えるか？
• RQ5 Kubernetesベースのオーケストレーションに、実用的にレプリケーションを統合する方法は何か？

主な発見

• GASSアルゴリズムは、レプリケーションあり・なしの両状況において、すべてのベンチマークポリシーを大きく上回り、応答時間の短縮とサービス可用性の向上を実現した。
• 実世界のデータに基づく数値的結果から、SAA-RPによるレプリケーション配置が、高負荷時やノード障害時においてもシステムの頑健性を高め、遅延を低減することが確認された。
• フレームワークは、ユーザーのサービス構成スキームの不確実性を効果的に処理でき、よりレジリエントで適応性のあるデプロイメント意思決定を可能にした。
• SAA-RPはKubernetesオーケストレーションと互換性を持つことから、実世界でのデプロイメントが可能であり、スケーラビリティと実用性に優れた性能を示した。
• 複数のエッジサイトにわたるレプリケーションにより、個々のサイトに一時的な障害が発生しても、長時間の遅延やサービス停止のリスクが低減された。
• GASSにおける最近隣の利用可能なエッジサイト選択戦略により、ネットワークトラバーサル距離の短縮が実現され、応答時間が改善された。