[논문 리뷰] TinyML for Ubiquitous Edge AI

Stanislava Soro|arXiv (Cornell University)|2021. 02. 02.

Advanced Neural Network Applications참고 문헌 13인용 수 33

한 줄 요약

TinyML은 초저전력 임베디드 디바이스에서 딥러닝을 가능하게 하여 분산 엣지 추론과 무거운 클라우드 의존 없이 자율적 추론을 가능하게 한다; 이 논문은 도전과제와 기술적 동인들을 조사한다.

ABSTRACT

TinyML is a fast-growing multidisciplinary field at the intersection of machine learning, hardware, and software, that focuses on enabling deep learning algorithms on embedded (microcontroller powered) devices operating at extremely low power range (mW range and below). TinyML addresses the challenges in designing power-efficient, compact deep neural network models, supporting software framework, and embedded hardware that will enable a wide range of customized, ubiquitous inference applications on battery-operated, resource-constrained devices. In this report, we discuss the major challenges and technological enablers that direct this field's expansion. TinyML will open the door to the new types of edge services and applications that do not rely on cloud processing but thrive on distributed edge inference and autonomous reasoning.

연구 동기 및 목표

• 임베디드 디바이스에서 TinyML가 직면한 주요 도전과제를 식별한다.
• TinyML을 가능하게 하는 기술적 동인(하드웨어, 소프트웨어, 및 모델 설계)을 개략적으로 제시한다.
• TinyML이 클라우드 의존 없이 엣지 서비스와 자율적 추론을 어떻게 가능하게 하는지 설명한다.

제안 방법

• TinyML와 그것의 ML, 하드웨어, 소프트웨어의 융합에 대한 개념적 개요를 제공한다.
• 임베디드 DNNs의 전력, 크기 및 효율성의 주요 도전과제에 대해 논의한다.
• 하드웨어, 소프트웨어 프레임워크 및 모델 설계를 포함한 기술적 동인을 설명한다.
• TinyML에 의해 구현될 수 있는 잠재적 엣지 추론 시나리오와 자율적 능력을 논의한다.

실험 결과

연구 질문

• RQ1 TinyML의 확장을 주도할 핵심 도전과제와 기술적 동인은 무엇인가?
• RQ2 TinyML은 클라우드 처리 없이 어떻게 보편적인 엣지 추론과 자율적 엣지 추론을 가능하게 할 수 있는가?
• RQ3 마이크로컨트롤러에서 전력 효율적이고 소형 DNN을 지원하기 위해 필요한 하드웨어, 소프트웨어 및 모델 설계의 조합은 무엇인가?

주요 결과

• TinyML은 클라우드 처리에 의존하기보다 분산 추론과 자율적 추론으로 작동하는 새로운 엣지 서비스를 가능하게 할 준비가 되어 있다.
• 전력 효율적이고 소형의 심층 신경망은 배터리 작동 장치에서 보편적 엣지 AI를 가능하게 하는 핵심이다.
• 임베디드 하드웨어와 소프트웨어 프레임워크의 발전은 실용적인 TinyML 배치를 위한 필수적인 동인이다.