[论文解读] A Network-based Compute Reuse Architecture for IoT Applications

Boubakr Nour, Soumaya Cherkaoui|arXiv (Cornell University)|Apr 8, 2021

IoT and Edge/Fog Computing参考文献 25被引用 8

一句话总结

本文提出了一种面向物联网应用的基于网络的计算重用架构，通过在边缘服务器上缓存并重用相似任务的计算结果，以减少冗余计算。通过使用局部敏感哈希（LSH）识别语义上相似的输入，并实现网络级重用，该系统实现了高达80%的任务完成时间减少和60%的资源利用率提升，同时保持高达90%的计算正确性。

ABSTRACT

The tremendous advancements in the Internet of Things (IoT) increasingly involve computationally intensive services. These services often require more computation resources than can entirely be satisfied on local IoT devices. Cloud computing is traditionally used to provide unlimited computation resources at distant servers. However, such remote computation may not address the short-delay constraints that many of today's IoT applications require. Edge computing allows offloading computing close to end users to overcome computation and delay issues. Nonetheless, the edge servers may suffer from computing inefficiencies. Indeed, some IoT applications are invoked multiple times by multiple devices. These invocations are often used with the same or similar input data, which leads to the same computational output (results). Still, the edge server willfully executes all received redundant tasks. In this work, we investigate the use of the computation reuse concept at the edge server. We design a network-based computation reuse architecture for IoT applications. The architecture stores previously executed results and reuses them to satisfy newly arrived similar tasks instead of performing computation from scratch. By doing so, we eliminate redundant computation, optimize resource utilization, and decrease task completion time. We implemented the architecture and evaluated its performance both at the networking and application levels. From the networking perspective, we reach up to an 80\% reduction in task completion time and up to 60\% reduction in resource utilization. From the application perspective, we achieve up to 90\% computation correctness and accuracy.

研究动机与目标

• 应对日益增长的低延迟、高计算需求的物联网服务需求，这些服务超出了本地设备的处理能力。
• 通过减少因重复调用相似任务而产生的冗余计算，克服云边计算的局限性。
• 通过网络级计算重用，提升边缘资源利用率和任务完成时间。
• 确保重用计算的高准确性和正确性，尤其针对安全关键型物联网应用。
• 设计一种通用的、与服务无关的架构，支持在多样化物联网应用中实现重用。

提出的方法

• 扩展边缘转发功能，集成一个运行在边缘服务器级别的基于网络的计算重用模块。
• 应用局部敏感哈希（LSH）将语义上相似的输入映射到相同的哈希桶中，从而实现对先前计算结果的高效查找。
• 将输入-输出对（服务名称、输入数据、输出结果）存储在基于内容的缓存中，以实现快速检索。
• 使用相似性感知匹配机制，识别出其输入在上下文、空间或时间上与缓存任务相似的待处理任务。
• 将重用模块集成到边缘服务器的处理流水线中，当缓存结果可用时，透明地返回这些结果。
• 通过将缓存输出与重新计算的结果进行比较，验证重用的正确性，以确保准确性。

Figure 1: Computation reuse architecture at the edge.

实验结果

研究问题

• RQ1 如何在边缘计算的物联网场景中，将计算重用集成到网络层面，而非应用层面？
• RQ2 如何检测并映射非比特完全相同的相似输入，使其指向相同的缓存输出？
• RQ3 如何保证重用计算的正确性和准确性，尤其是针对安全关键型应用？
• RQ4 在延迟、资源利用率和计算准确性方面，可实现多大的性能提升？

主要发现

• 所提出的架构通过重用先前计算结果，实现了高达80%的任务完成时间减少。
• 由于在边缘服务器上消除了冗余计算，资源利用率最高降低了60%。
• 计算正确性和准确性达到最高90%，表明即使在复杂且语义相似的输入下，重用依然可靠。
• 局部敏感哈希有效将相似输入分组到同一哈希桶中，实现了对缓存结果的快速且准确的查找。
• 该系统在具有不同准确率需求的多样化物联网应用中，表现出高度的可扩展性和适应性。
• 该架构支持特定服务的重用策略，使应用仅在满足正确性阈值时才选择参与重用。

Figure 2: Input hashing and querying example in LSH.