[논문 리뷰] The Internet of Things in the Era of Generative AI: Vision and Challenges

Xin Wang, Zhongwei Wan외 5명|arXiv (Cornell University)|2024. 01. 03.

IoT and Edge/Fog Computing인용 수 4

한 줄 요약

이 논문은 인공지능 기반 생성 기술(Generative AI)을 사물인터넷(IoT)에 통합하는 비전을 제시하며, 헬스케어, 로봇공학, 엣지 컴퓨팅 분야에서의 변혁적 응용 가능성을 강조한다. 고성능 계산 요구, 현장 내 추론, 보안 문제, 그리고 IoT 전용 벤치마크 부족과 같은 주요 과제를 규명하고, 모델 압축, 피어드 학습, 신뢰할 수 있는 실행 환경 등 솔루션을 제안함으로써 효율적이고 안전하며 확장 가능한 AIoT 시스템을 실현하고자 한다.

ABSTRACT

Advancements in Generative AI hold immense promise to push Internet of Things (IoT) to the next level. In this article, we share our vision on IoT in the era of Generative AI. We discuss some of the most important applications of Generative AI in IoT-related domains. We also identify some of the most critical challenges and discuss current gaps as well as promising opportunities on enabling Generative AI for IoT. We hope this article can inspire new research on IoT in the era of Generative AI.

연구 동기 및 목표

• 의료, 로봇공학, 자율 시스템 등 다양한 분야에서 Generative AI의 변혁적 잠재력을 탐색하여 IoT 응용을 발전시키는 것.
• 자원 제약이 있는 IoT 기기에서 Generative AI를 구현할 때 발생하는 주요 기술적 및 체계적 과제를 규명하고 분석하는 것.
• 현장 내 추론, 모델 효율성, 보안 및 프라이버시를 보존하는 학습과 같은 핵심 장벽에 대한 솔루션을 제안하는 것.
• Generative AI 워크로드에 특화된 IoT 전용 개발 도구와 벤치마크의 긴급한 필요성을 부각하는 것.
• 모델 배포, 최적화, 평가 분야의 현재 격차와 유망한 기회를 제시함으로써 AIoT 분야의 새로운 연구를 자극하는 것.

제안 방법

• GPT, LLaMA, DALL-E, Stable Diffusion 등의 대규모 사전 학습 모델을 활용하여 IoT 환경에서 고품질 콘텐츠 생성 및 복잡한 작업 수행을 가능하게 한다.
• 자원이 제한된 엣지 기기에서 대규모 언어 모델을 구동하기 위해 현장 내 추론 및 모델 압축 기법(예: llama.cpp)을 제안한다.
• 분산 학습 환경에서 데이터 효율성과 모델 정확도를 향상시키기 위해 생성 모델을 활용한 피어드 학습(GPT-FL 등)을 도입한다.
• 모델 추론 보안, 지적 재산 보호, 생성 출력의 기밀성 확보를 위해 신뢰할 수 있는 실행 환경(TEEs)을 권장한다.
• 다양한 플랫폼 간 효율성을 향상시키기 위해 새로운 AI 컴파일러(예: OpenVINO, TVM, MLIR)와 최적화된 추론 프레임워크 개발을 제안한다.
• IoT 워크로드에 특화된 지연, 메모리, 에너지 소비 및 성능-효율성 트레이드오���을 포함한 전용 벤치마크 개발을 촉구한다.

실험 결과

연구 질문

• RQ1 Generative AI는 자원 제약이 있는 IoT 시스템에서 실시간 지능형 의사결정을 어떻게 향상시킬 수 있는가?
• RQ2 에지 IoT 기기에서 대규모 생성 모델을 구현할 때 발생하는 주요 기술적 장벽은 무엇인가?
• RQ3 성능, 지연, 에너지 소비를 균형 있게 유지하기 위해 현장 내 추론과 모델 오프로딩을 어떻게 최적화할 수 있는가?
• RQ4 생성 모델은 프라이버시를 보존하는 IoT 응용을 위한 피어드 학습을 어떻게 향상시킬 수 있는가?
• RQ5 Generative AI의 IoT 분야 도입을 가속화하기 위해 어떤 새로운 개발 도구와 벤치마크가 필요할까?

주요 결과

• GPT-4 및 DALL-E 2와 같은 생성 AI 모델은 수학적 추론 및 고해상도 이미지 생성과 같은 복잡한 작업에서 인간 수준의 성능을 보여준다.
• GPT-4와 같은 대규모 모델은 최대 1.8조 개의 파라미터를 포함하여 이전의 BERT와 같은 모델을 크게 초월하며, 뛰어난 일반화 능력과 제로샷 능력을 제공한다.
• 생성 모델을 활용한 피어드 학습(GPT-FL)은 최신 기술 수준의 FL 방법에 비해 모델 정확도, 통신 효율성, 클라이언트 샘플링 효율성을 향상시킨다.
• 신뢰할 수 있는 실행 환경(TEEs)은 IoT 기기에서 모델 추론 보안, 민감한 데이터 및 기술적 비밀 보호를 위해 필수적이다.
• PyTorch 및 TensorFlow와 같은 기존 도구는 IoT 배포에 부적합하며, llama.cpp 및 MLIR와 같은 신규 도구는 등장하고 있으나 대규모 생성 모델에는 아직 미성成熟해 있다.
• 현재까지 Generative AI를 위한 IoT 전용 벤치마크는 존재하지 않으며, 이는 성능, 효율성, 에너지 소비 평가 분야에서 심각한 격차를 야기하고 있다.