[論文レビュー] The Hidden cost of the Edge: A Performance Comparison of Edge and Cloud Latencies

Ahmed Ali-Eldin, Bin Wang+1 more|arXiv (Cornell University)|Apr 28, 2021

Cloud Computing and Resource Management被引用数 4

ひとこと要約

本論文は、エッジコンピューティングの低いネットワーク遅延がリソース制約による高いキューイング遅延によって相殺され、中程度から高負荷の状態でエッジのエンドツーエンド遅延がクラウドを上回る『エッジパフォーマンス反転』問題を特定し、分析している。キューイング理論とAzureワークロードを用いた実世界の実験を通じて、著者らは、40–60%の利用率ですでにエッジの遅延がクラウドを上回ることを示しており、特にワークロードの偏りがある場合には、パフォーマンス劣化を回避するための過剰資源割り当てが不可欠であることを明らかにした。

ABSTRACT

Edge computing has emerged as a popular paradigm for running latency-sensitive applications due to its ability to offer lower network latencies to end-users. In this paper, we argue that despite its lower network latency, the resource-constrained nature of the edge can result in higher end-to-end latency, especially at higher utilizations, when compared to cloud data centers. We study this edge performance inversion problem through an analytic comparison of edge and cloud latencies and analyze conditions under which the edge can yield worse performance than the cloud. To verify our analytic results, we conduct a detailed experimental comparison of the edge and the cloud latencies using a realistic application and real cloud workloads. Both our analytical and experimental results show that even at moderate utilizations, the edge queuing delays can offset the benefits of lower network latencies, and even result in performance inversion where running in the cloud would provide superior latencies. We finally discuss practical implications of our results and provide insights into how application designers and service providers should design edge applications and systems to avoid these pitfalls.

研究の動機と目的

• エッジのエンドツーエンド遅延がネットワーク遅延が低いにもかかわらずクラウドを上回るという『エッジパフォーマンス反転』問題を特定し、形式化すること。
• キューイングモデルを用いて、エッジのキューイング遅延がネットワーク遅延の利点を上回る条件を分析すること。
• 実際のクラウドおよびエッジプラットフォーム上でAzureトレースワークロードを用いた実世界の実験を通じて、解析的結果の妥当性を検証すること。
• アプリケーション設計者およびクラウドプロバイダーが適切なリソース割り当てと過剰資源割り当てを通じてパフォーマンス反転を回避するための実用的指針を提供すること。

提案手法

• エッジとクラウドシステム間のエンドツーエンド遅延を比較するために、M/M/1キューイングモデルを用いてエッジパフォーマンス反転問題を形式化すること。
• ネットワーク遅延およびサーバキューイング遅延の各成分を含む、エッジおよびクラウドのエンドツーエンド遅延の閉形式解析的式を導出すること。
• ポisson到着を仮定し、k個のエッジサイトにわたるワークロード分布をモデル化し、バランスの取れたワークロードと偏ったワークロードを想定することで、ピーク容量要件を評価すること。
• エッジの必要容量を $ C_{edge} = \lambda + 2\sqrt{k\lambda} $ と算出し、統計多重化利得が欠如しているため、クラウドの容量 $ C_{cloud} = \lambda + 2\sqrt{\lambda} $ を上回ることを示すこと。
• 物理的なクラウドおよびエッジプラットフォーム上で実際のアプリケーションスタックを用い、Azureトレースワークロードを用いた実世界の実験を実施し、平均遅延および尾遅延を測定すること。
• 実験結果を解析的予測と比較することで、現実的な条件下でのパフォーマンス反転の発生を検証すること。

実験結果

リサーチクエスチョン

• RQ1 エッジの高いキューイング遅延が、低いネットワーク遅延にもかかわらずエンドツーエンド遅延をクラウドを上回る状況は、どのような条件下で生じるか？
• RQ2 エッジサイト間でのワークロードの偏りが、パフォーマンス反転の発生確率および深刻さにどのように影響するか？
• RQ3 中程度の利用率（例：40–60%）では、キューイング効果によりエッジの遅延がクラウドを上回る程度はどの程度か？
• RQ4 パフォーマンス反転を回避するため、エッジでの過剰資源割り当てはクラウドと比較してどの程度必要か？
• RQ5 クラウドにおける統計多重化利得は、分散型エッジ展開と比較してピーク容量要件をどの程度低減するか？

主な発見

• ワークロードがエッジサイトに偏っている場合、40–60%の利用率という中程度の利用率でも、エッジのエンドツーエンド遅延がクラウドを上回ることがある。
• 統計多重化利得が欠如しているため、エッジのピーク容量 $ C_{edge} = \lambda + 2\sqrt{k\lambda} $ は、クラウドの $ C_{cloud} = \lambda + 2\sqrt{\lambda} $ を上回る。
• クラウドへの遅延が低下する（クラウドの配置密度が上昇する）ほど、パフォーマンス反転の発生確率が高まる。
• Azureワークロードを用いた実世界の実験により、同じ負荷条件下でエッジの平均遅延および尾遅延がクラウドを上回ることが確認された。
• エッジコンピューティングの隠れたコストである高いキューイング遅延は、パフォーマンス劣化を回避するための顕著な過剰資源割り当てを必要とする。
• クラウドプロバイダーは、パフォーマンス反転を防ぐために余分な容量を確保する必要があるため、エッジ展開の経済的コストが高くなる。