[논문 리뷰] A Network-based Compute Reuse Architecture for IoT Applications

Boubakr Nour, Soumaya Cherkaoui|arXiv (Cornell University)|2021. 04. 08.

IoT and Edge/Fog Computing참고 문헌 25인용 수 8

한 줄 요약

이 논문은 엣지 서버에서 유사한 작업의 결과를 캐시하고 재사용하여 부과적인 계산을 줄이는 네트워크 기반 계산 재사용 아키텍처를 제안한다. 의미적으로 유사한 입력을 식별하고 네트워크 수준에서의 재사용을 가능하게 하기 위해 국소성에 민감한 해싱(LSH)을 사용함으로써, 시스템은 작업 완료 시간을 최대 80% 감소시키고 자원 활용도를 최대 60% 향상시키며, 동시에 최대 90%의 계산 정확도를 유지한다.

ABSTRACT

The tremendous advancements in the Internet of Things (IoT) increasingly involve computationally intensive services. These services often require more computation resources than can entirely be satisfied on local IoT devices. Cloud computing is traditionally used to provide unlimited computation resources at distant servers. However, such remote computation may not address the short-delay constraints that many of today's IoT applications require. Edge computing allows offloading computing close to end users to overcome computation and delay issues. Nonetheless, the edge servers may suffer from computing inefficiencies. Indeed, some IoT applications are invoked multiple times by multiple devices. These invocations are often used with the same or similar input data, which leads to the same computational output (results). Still, the edge server willfully executes all received redundant tasks. In this work, we investigate the use of the computation reuse concept at the edge server. We design a network-based computation reuse architecture for IoT applications. The architecture stores previously executed results and reuses them to satisfy newly arrived similar tasks instead of performing computation from scratch. By doing so, we eliminate redundant computation, optimize resource utilization, and decrease task completion time. We implemented the architecture and evaluated its performance both at the networking and application levels. From the networking perspective, we reach up to an 80\% reduction in task completion time and up to 60\% reduction in resource utilization. From the application perspective, we achieve up to 90\% computation correctness and accuracy.

연구 동기 및 목표

• 로컬 장치의 능력을 초월하는 저지연, 고계산 IoT 서비스에 대한 증가하는 수요를 충족시키기 위해.
• 반복적이고 유사한 작업 호출로 인한 부과적인 계산을 줄이기 위해 클라우드 및 엣지 컴퓨팅의 한계를 극복하기 위해.
• 네트워크 수준의 계산 재사용을 통해 엣지 자원 활용도와 작업 완료 시간을 향상시키기 위해.
• 특히 안전이 중요한 IoT 애플리케이션을 위해 재사용된 계산의 높은 정확도와 정확성을 확보하기 위해.
• 다양한 IoT 애플리케이션을 지원할 수 있는 일반적이고 서비스에 종속되지 않는 아키텍처를 설계하기 위해.

제안 방법

• 엣지 포워딩 기능을 확장하여 엣지 서버 수준에서 작동하는 네트워크 기반 계산 재사용 모듈을 포함한다.
• 의미적으로 유사한 입력을 동일한 해시 버킷에 매핑하기 위해 국소성에 민감한 해싱(LSH)을 적용한다.
• 빠른 검색을 위해 입력-출력 쌍(서비스 이름, 입력 데이터, 출력 결과)을 콘텐츠 기반 캐시에 저장한다.
• 들어오는 작업 중에서 맥락적, 공간적, 시간적으로 캐시된 작업과 유사한 입력을 가진 작업을 식별하기 위해 유사성 인식 매칭 메커니즘을 사용한다.
• 사용 가능한 경우 캐시된 결과를 투명하게 제공할 수 있도록 재사용 모듈을 엣지 서버의 처리 파이프라인에 통합한다.
• 정확도를 보장하기 위해 캐시된 출력 결과를 재계산된 결과와 비교하여 재사용의 정확성을 검증한다.

Figure 1: Computation reuse architecture at the edge.

실험 결과

연구 질문

• RQ1 엣지 컴퓨팅을 위한 IoT에서 계산 재사용을 응용 수준이 아닌 네트워킹 수준에서 어떻게 통합할 수 있는가?
• RQ2 비트 수준에서 동일하지 않은 입력이라도 어떻게 감지하고 동일한 캐시된 출력에 매핑할 수 있는가?
• RQ3 특히 안전이 중요한 응용 분야를 위해 재사용된 계산의 정확성과 정확성을 어떻게 보장할 수 있는가?
• RQ4 지연 시간, 자원 활용도, 계산 정확도 측면에서 어떤 성능 향상을 달성할 수 있는가?

주요 결과

• 제안된 아키텍처는 이전에 계산된 결과를 재사용함으로써 작업 완료 시간을 최대 80% 감소시켰다.
• 엣지 서버에서의 부과적인 계산이 제거됨에 따라 자원 활용도가 최대 60% 향상되었다.
• 계산 정확도와 정확도는 최대 90%에 도달하여 복잡한 맥락적 유사 입력에 대해서도 신뢰할 수 있는 재사용이 가능함을 입증했다.
• 국소성에 민감한 해싱은 효과적으로 유사한 입력을 동일한 해시 버킷으로 그룹화하여 캐시된 결과의 빠르고 정확한 검색을 가능하게 했다.
• 다양한 정확도 요구 사항을 가진 다양한 IoT 애플리케이션에 대해 높은 확장성과 적응성을 보였다.
• 아키텍처는 서비스별 재사용 정책을 지원하여 응용 프로그램이 정확도 기준을 충족할 때만 재사용에 참여할 수 있도록 허용한다.

Figure 2: Input hashing and querying example in LSH.