[논문 리뷰] Artificial Intelligence at the Edge

Elisa Bertino, Sujata Banerjee|arXiv (Cornell University)|2020. 12. 10.

IoT and Edge/Fog Computing인용 수 8

한 줄 요약

이 화이트페이퍼는 인공지능(AI)을 네트워크 엣지에 통합하여 사물인터넷(IoT) 및 엣지 컴퓨팅 환경에서 실시간, 저지연 응용 프로그램을 가능하게 한다. 5G/6G, 하드웨어 가속기, 개인정보 보호 기법의 발전을 활용함으로써 엣지에서의 AI는 헬스케어, 재난 복구, 몰입형 기술 분야의 핵심 응용 프로그램에서 반응성과 효율성을 향상시킨다.

ABSTRACT

The Internet of Things (IoT) and edge computing applications aim to support a variety of societal needs, including the global pandemic situation that the entire world is currently experiencing and responses to natural disasters. The need for real-time interactive applications such as immersive video conferencing, augmented/virtual reality, and autonomous vehicles, in education, healthcare, disaster recovery and other domains, has never been higher. At the same time, there have been recent technological breakthroughs in highly relevant fields such as artificial intelligence (AI)/machine learning (ML), advanced communication systems (5G and beyond), privacy-preserving computations, and hardware accelerators. 5G mobile communication networks increase communication capacity, reduce transmission latency and error, and save energy -- capabilities that are essential for new applications. The envisioned future 6G technology will integrate many more technologies, including for example visible light communication, to support groundbreaking applications, such as holographic communications and high precision manufacturing. Many of these applications require computations and analytics close to application end-points: that is, at the edge of the network, rather than in a centralized cloud. AI techniques applied at the edge have tremendous potential both to power new applications and to need more efficient operation of edge infrastructure. However, it is critical to understand where to deploy AI systems within complex ecosystems consisting of advanced applications and the specific real-time requirements towards AI systems.

연구 동기 및 목표

• 자율주행차, 증강현실, 원격의료와 같은 실시간, 저지연 응용 프로그램에 대한 수요 증가에 대응한다.
• 중앙 집중식 클라우드 컴퓨팅이 엄격한 반응 시간 및 데이터 개인정보 보호 요구 조건을 충족하는 데서 유의미한 한계를 지닌다는 것을 밝힌다.
• 엣지 AI가 핵심 분야에서 시스템 효율성을 향상시키고 새로운 응용 프로그램을 가능하게 하는 역할을 분석한다.
• 엣지 컴퓨팅, AI/ML, 그리고 차세대 통신 기술(5G 및 그 이상) 간의 상호보완적 관계를 강조한다.

제안 방법

• 클라우드 기반 추론 대비 지연 시간과 대역폭 사용을 줄이기 위해 AI 모델을 엣지 디바이스에 직접 구현하는 것을 제안한다.
• 온디바이스 AI 추론 성능을 최적화하기 위해 하드웨어 가속기(예: TPU, NPU)의 사용을 강조한다.
• 연합 학습 및 보안 다자간 계산과 같은 개인정보 보호 컴퓨팅 기법을 엣지에서 통합한다.
• 5G 및 향후 6G 네트워크를 활용하여 엣지 노드와 최종 사용자 간의 고용량, 저지연 통신을 가능하게 한다.
• 이질적인 디바이스와 네트워크에 걸쳐 분산된 지능을 구현하는 데 중점을 두고 엣지 AI의 시스템 아키텍처를 분석한다.
• 지연 시간, 에너지 효율성, 데이터 국지성 등에 영향을 미치는 종단 간 시스템 설계의 트레이드오프를 고려한다.

실험 결과

연구 질문

• RQ1 엣지에서의 AI는 자율주행 및 몰입형 비디오 회의와 같은 실시간 응용 프로그램의 반응 시간을 어떻게 향상시킬 수 있는가?
• RQ2 네트워크 엣지에서 AI를 효과적으로 구현하기 위한 핵심 기술적 요소는 무엇인가?
• RQ3 5G 및 6G 네트워크는 엣지 AI 워크로드의 확장성과 신뢰성에 어떻게 기여하는가?
• RQ4 개인정보 보호 기반 AI 기법은 엣지에서 민감한 데이터를 보호하는 데 어떤 역할을 하는가?
• RQ5 성능, 에너지 효율성, 데이터 국지성 간의 균형을 최적화하는 엣지 AI 시스템의 아키텍처 패턴은 무엇인가?

주요 결과

• 클라우드 기반 처리에 비해 엣지에서의 AI는 지연 시간을 크게 감소시켜 임무 중심 응용 프로그램에서 실시간 반응성을 가능하게 한다.
• 5G 네트워크는 확장 가능한 엣지 AI 배포에 필요한 저지연, 고대역폭 연결성을 제공한다.
• 엣지에서의 하드웨어 가속기는 AI 모델의 추론 속도와 에너지 효율성을 향상시킨다.
• 연합 학습과 같은 개인정보 보호 기법을 통해 원시 데이터를 전송하지 않고도 디바이스에서 학습을 수행할 수 있다.
• 엣지에서의 AI 통합은 6G 네트워크에서의 홀로그램 통신 및 고정밀 제조와 같은 신규 응용 프로그램을 지원한다.
• 엣지 AI는 시스템의 내재성과 중앙 집중식 클라우드 인프라 의존도를 향상시켜 재난 복구 및 원격 헬스케어 시나리오에서 특히 유리하다.