[論文レビュー] A Network-based Compute Reuse Architecture for IoT Applications

Boubakr Nour, Soumaya Cherkaoui|arXiv (Cornell University)|Apr 8, 2021

IoT and Edge/Fog Computing参考文献 25被引用数 8

ひとこと要約

本論文は、IoTアプリケーション向けにネットワークベースの計算再利用アーキテクチャを提案し、類似したタスクの結果をエッジサーバーでキャッシュ・再利用することで、重複する計算を削減する。局所性に敏感なハッシュ（LSH）を用いて意味的に類似した入力を特定し、ネットワークレベルでの再利用を可能にすることで、タスク完了時間は最大80％短縮され、リソース利用効率は60％向上し、計算の正確性は最大90％を維持する。

ABSTRACT

The tremendous advancements in the Internet of Things (IoT) increasingly involve computationally intensive services. These services often require more computation resources than can entirely be satisfied on local IoT devices. Cloud computing is traditionally used to provide unlimited computation resources at distant servers. However, such remote computation may not address the short-delay constraints that many of today's IoT applications require. Edge computing allows offloading computing close to end users to overcome computation and delay issues. Nonetheless, the edge servers may suffer from computing inefficiencies. Indeed, some IoT applications are invoked multiple times by multiple devices. These invocations are often used with the same or similar input data, which leads to the same computational output (results). Still, the edge server willfully executes all received redundant tasks. In this work, we investigate the use of the computation reuse concept at the edge server. We design a network-based computation reuse architecture for IoT applications. The architecture stores previously executed results and reuses them to satisfy newly arrived similar tasks instead of performing computation from scratch. By doing so, we eliminate redundant computation, optimize resource utilization, and decrease task completion time. We implemented the architecture and evaluated its performance both at the networking and application levels. From the networking perspective, we reach up to an 80\% reduction in task completion time and up to 60\% reduction in resource utilization. From the application perspective, we achieve up to 90\% computation correctness and accuracy.

研究の動機と目的

• ローカルデバイスの能力を超える低遅延・高計算要件を満たすIoTサービスの増加に対応する。
• 繰り返し発生する類似したタスク呼び出しによる重複計算を低減することで、クラウドおよびエッジコンピューティングの限界を克服する。
• ネットワークレベルでの計算再利用により、エッジリソースの利用効率とタスク完了時間を向上する。
• 特に安全を要するIoTアプリケーションにおいても、再利用された計算の正確性と正確性を保証する。
• 多様なIoTアプリケーションにわたる再利用を可能にする汎用的かつサービスに依存しないアーキテクチャを設計する

提案手法

• エッジフォワーディング機能を拡張し、エッジサーバーのレベルで動作するネットワークベースの計算再利用モジュールを統合する。
• 意味的に類似した入力を同じハッシュバケットにマップできるように、局所性に敏感なハッシュ（LSH）を適用する。
• 入力-出力ペア（サービス名、入力データ、出力結果）をコンテンツベースのキャッシュに格納し、迅速な取得を実現する。
• 類似度に配慮したマッチングメカニズムを用いて、文脈的・空間的・時間的にキャッシュ済みタスクと類似した入力を有するインcomingsタスクを特定する。
• 再利用モジュールをエッジサーバーの処理パイプラインに統合し、利用可能な場合に透明にキャッシュ結果を提供する。
• 再計算結果と照合することで、再利用の正確性を検証し、正確性を保証する

Figure 1: Computation reuse architecture at the edge.

実験結果

リサーチクエスチョン

• RQ1 エッジコンピューティングにおけるIoTの文脈で、計算再利用をアプリケーションレベルではなくネットワークレベルに統合するにはどうすればよいか？
• RQ2 ビット単位で同一でない入力でも、類似した入力を検出し、同じキャッシュ出力にマッピングするにはどうすればよいか？
• RQ3 特に安全を要するアプリケーションにおいて、再利用された計算の正確性と正確性をどのように保証できるか？
• RQ4 遅延、リソース利用効率、計算正確性の観点で、どのようなパフォーマンス向上が達成できるか？

主な発見

• 提案されたアーキテクチャは、事前に計算済みの結果を再利用することで、タスク完了時間を最大80％短縮した。
• エッジサーバーでの重複計算の排除により、リソース利用効率が最大60％向上した。
• 計算の正確性と正確性は最大90％に達し、文脈的に類似した入力ですら信頼できる再利用が可能であることが示された。
• 局所性に敏感なハッシュは、類似した入力を同じハッシュバケットに効果的にグループ化し、キャッシュ結果の高速かつ正確な検索を可能にした。
• 多様なIoTアプリケーション（多様な正確性要件を有する）において、高いスケーラビリティと適応性を示した。
• アーキテクチャはサービス固有の再利用ポリシーをサポートしており、正確性のしきい値を満たす場合にのみアプリケーションが再利用に参加できる

Figure 2: Input hashing and querying example in LSH.