[論文レビュー] TinyML for Ubiquitous Edge AI

Stanislava Soro|arXiv (Cornell University)|Feb 2, 2021

Advanced Neural Network Applications参考文献 13被引用数 33

ひとこと要約

TinyMLは超低電力の組み込みデバイス上でディープラーニングを可能にし、重いクラウド依存なしに分散エッジ推論と自律的推論を実現します。 本論は課題と技術的実現要素を整理します。

ABSTRACT

TinyML is a fast-growing multidisciplinary field at the intersection of machine learning, hardware, and software, that focuses on enabling deep learning algorithms on embedded (microcontroller powered) devices operating at extremely low power range (mW range and below). TinyML addresses the challenges in designing power-efficient, compact deep neural network models, supporting software framework, and embedded hardware that will enable a wide range of customized, ubiquitous inference applications on battery-operated, resource-constrained devices. In this report, we discuss the major challenges and technological enablers that direct this field's expansion. TinyML will open the door to the new types of edge services and applications that do not rely on cloud processing but thrive on distributed edge inference and autonomous reasoning.

研究の動機と目的

• 組み込みデバイス上のTinyMLが直面する主な課題を特定する。
• TinyMLを可能にする技術的実現要素（ハードウェア、ソフトウェア、モデル設計）を整理する。
• TinyMLがクラウド依存なしにエッジサービスと自律推論をどのように実現できるかを説明する。

提案手法

• TinyMLとML、ハードウェア、ソフトウェアの統合に関する概念的概要を提供する。
• 組み込みDNNsの電力、サイズ、効率における主要課題を論じる。
• ハードウェア、ソフトウェアフレームワーク、モデル設計を含む技術的実現要素を説明する。
• TinyMLによって可能となるエッジ推論シナリオと自律機能を論じる。

実験結果

リサーチクエスチョン

• RQ1 TinyMLの拡大を促進する主要な課題と技術的実現要素は何か。
• RQ2 TinyMLはクラウド処理なしで普及するエッジ推論と自律的エッジ推論をどのように実現できるか。
• RQ3 電力効率が高く小型なDNNをマイクロコントローラでサポートするには、どのようなハードウェア、ソフトウェア、モデル設計の組み合わせが必要か。

主な発見

• TinyMLは、クラウド処理に依存するのではなく、分散推論と自律推論を伴う新しいエッジサービスを実現する態勢にある。
• 電力効率が高くコンパクトな深層ニューラルネットワークは、バッテリー駆動デバイス上での普及的なエッジAIを実現する要となる。
• 組み込みハードウェアとソフトウェアフレームワークの進歩は、実用的なTinyMLの展開に不可欠な実現要素である。