[論文レビュー] Characterizing Task Completion Latencies in Fog Computing

Maria Gorlatova, Hazer İnaltekin+1 more|arXiv (Cornell University)|Nov 6, 2018

IoT and Edge/Fog Computing参考文献 25被引用数 17

ひとこと要約

本稿では、タスク固有のタイムリネスと品質志向性をモデル化することで、レイテンシとサービス品質の両方を同時に最適化する、ファイブコンピューティングにおけるタスク割り当てのための共同最適化フレームワークを提案する。6つの異種実行ポイント（ゲートウェイ、ローカルサーバ、クラウド/エッジサービス）を対象とした実地ベンチマークを実施し、レイテンシの特性と安定性のパターンを同定した後、ユーティリティを考慮したアルゴリズム（UA、AT、C-TAP）を用いてタスク割り当て問題を定式化・解明し、実世界のレイテンシおよび接続状態下で、最小レイテンシまたは最大品質ベースラインを上回る優れた性能を示した。

ABSTRACT

Fog computing, which distributes computing resources to multiple locations between the Internet of Things (IoT) devices and the cloud, is attracting considerable attention from academia and industry. Yet, despite the excitement about the potential of fog computing, few comprehensive quantitative characteristics of the properties of fog computing architectures have been conducted. In this paper we examine the properties of task completion latencies in fog computing. First, we present the results of our empirical benchmarking-based study of task completion latencies. The study covered a range of settings, and uniquely considered both traditional and serverless fog computing execution points. It demonstrated the range of execution point characteristics in different locations and the relative stability of latency characteristics for a given location. It also highlighted properties of serverless execution that are not incorporated in existing fog computing algorithms. Second, we present a framework we developed for co-optimizing task completion quality and latency, which was inspired by the insights of our empirical study. We describe fog computing task assignment problems we formulated under this framework, and present the algorithms we developed for solving them.

研究の動機と目的

• ファイブコンピューティングアーキテクチャにおけるタスク完了レイテンシの包括的で定量的な特徴付けの不足に対処すること。
• 実世界の条件下における、ゲートウェイ、ローカルサーバ、クラウド/エッジサービスを含む多様な実行ポイントのレイテンシの変動性、安定性、および性能特性を理解すること。
• タスク固有のタイムリネスと品質志向性に基づき、レイテンシとサービス品質を共同で最適化するタスク割り当てフレームワークを開発すること。
• 接続性、容量、およびユーティリティ関数に基づいて、タスクを実行ポイントに動的に割り当てるアルゴリズムを設計・評価すること。
• 航空機搭載環境における変動するクラウド接続性を含む、現実的で動的なネットワーク条件下でのフレームワークの妥当性を検証すること。

提案手法

• Raspberry Piゲートウェイ、ローカルサーバ、および異なるリージョンのAWS EC2/lambdaノードを含む6つの異種ファイブ実行ポイントで、合計1,000時間以上の実地ベンチマークを実施した。
• 制御されたワークロード下でのタスク完了レイテンシを測定し、サーバレスおよび従来型クラウドモデルを含む、実行ポイント間の変動性、安定性、性能差を特徴付けた。
• 各タスクに時間のユーティリティ関数と品質のユーティリティ関数を設定する、ユーティリティベースのタスク割り当てフレームワークを提案し、レイテンシと品質の両方を共同で最適化可能とした。
• 実行ポイントの容量、レイテンシ分布、およびユーティリティ関数を考慮した混合整数計画問題としてタスク割り当て問題を定式化した。
• 制約条件の変化に応じて動作する3つのアルゴリズム（UA：ユーティリティを考慮した、AT：適応的しきい値、C-TAP：共同最適化タスク割り当てポリシー）を設計し、割り当て問題を解明した。
• 異なるネットワーク場所からの実際のレイテンシ測定値を用いて、動的接続状態（例：飛行中の状況）下でアルゴリズムを評価した。

実験結果

リサーチクエスチョン

• RQ1 ゲートウェイ、ローカルサーバ、クラウド/エッジサービスを含む、異なるファイブ実行ポイントにおけるタスク完了レイテンシはどのように変動するか？
• RQ2 繰り返しワークロード下での特定の実行ポイントにおけるタスク完了レイテンシの安定性と変動特性は何か？
• RQ3 サーバレス実行モデルは、従来型仮想化または物理実行ポイントと比較して、レイテンシ行動でどのように異なるか？
• RQ4 共同最適化フレームワークは、異種ファイブ環境において、タスク完了レイテンシとサービス品質を効果的にバランスさせることができるか？
• RQ5 変動するクラウド接続性を含む動的ネットワーク条件は、最適なタスク割り当て戦略にどのように影響を与えるか？

主な発見

• ゲートウェイ実行ポイントは繰り返し実行において安定的で低レイテンシ（中央値0.6秒）の性能を示し、変動性も低かったが、クラウドベースのサービスはより高く、より変動性の高いレイテンシを示した。
• サーバレス実行（AWS Lambda）は、従来型仮想マシンと比較して顕著に高いレイテンシ変動性を示したが、これは既存のファイブアルゴリズムでは捉えられていない特性であった。
• UAアルゴリズムは、同一条件下で最小レイテンシアプローチ（0.4677）と最大品質アプローチ（0.4415）を上回る平均ユーティリティ0.5078を達成した。
• 混合接続状態のシナリオでは、UAアルゴリズムが、クラウド接続が不良の際にはローカルノードに56タスクを割り当て、平均的な接続状態では22タスク、最良状態では100タスクをクラウドに割り当て、リアルタイムのネットワーク状態に適応した。
• C-TAPアルゴリズムは、3つの最も時間的に敏感なタスクを高速だが品質が低いローカルノードに、2つの最も余裕があるタスクを高品質だが遅いリモートノードに正しく割り当て、効果的なトレードオフの解決を示した。
• フレームワークは容量制限のある実行ポイントを適切に処理でき、航空機搭載環境のような変動するネットワーク性能を示す動的環境でも、堅牢性を示した。