[論文レビュー] Artificial Neural Networks for Sensor Data Classification on Small Embedded Systems

Marcus Venzke, Daniel Klisch+4 more|arXiv (Cornell University)|Dec 15, 2020

Traffic Prediction and Management Techniques参考文献 21被引用数 12

ひとこと要約

本論文では、リアルタイムな時間的センサデータ分類を目的として、低価格の8ビットマイコンに軽量な人工ニューラルネットワーク（ANN）を直接デプロイする手法を提案する。1,493パラメータを有するフィードフォワードニューラルネットワークを用いて、2 kBのRAMと32 kBのフラッシュメモリを備えたマイコン上で36 msの実行時間で83%の精度を達成した。これはクラウド依存なしに実現可能なデバイス内推論を示している。

ABSTRACT

In this paper we investigate the usage of machine learning for interpreting measured sensor values in sensor modules. In particular we analyze the potential of artificial neural networks (ANNs) on low-cost micro-controllers with a few kilobytes of memory to semantically enrich data captured by sensors. The focus is on classifying temporal data series with a high level of reliability. Design and implementation of ANNs are analyzed considering Feed Forward Neural Networks (FFNNs) and Recurrent Neural Networks (RNNs). We validate the developed ANNs in a case study of optical hand gesture recognition on an 8-bit micro-controller. The best reliability was found for an FFNN with two layers and 1493 parameters requiring an execution time of 36 ms. We propose a workflow to develop ANNs for embedded devices.

研究の動機と目的

• 低コストの埋め込みシステム内でセンサデータに意味的付加を直接行い、クラウド処理に依存しないようにすること。
• 2 kBのRAMと32 kBのフラッシュメモリを備えた限られたメモリと処理能力（16 MHzクロック）を持つ8ビットマイコンに人工ニューラルネットワーク（ANN）をデプロイする可能性を調査すること。
• リソース制限のある環境において、時間的センサシーケンスを分類するためのフィードフォワードニューラルネットワーク（FFNN）と再帰ニューラルネットワーク（RNN）の性能と信頼性を比較すること。
• 埋め込みセンサモジュールにANNを設計・学習・圧縮・デプロイする実用的でエンドツーエンドのワークフローを構築すること。
• 特に照明条件の変化が、実世界での展開における分類の信頼性に与える影響を評価すること。

提案手法

• 8ビットマイコンの最小限のメモリと処理制約に適合するように最適化されたFFNNおよびRNNの設計と実装。
• 9つの光センサを備えたセンサモジュールを、低解像度のカメラとして用いて、手のジェスチャーの時間的シーケンスを捉える。
• フィードフォワードネットワークの入力として、センサデータの一部をバッファに保持する手法を採用し、ジェスチャーのシーケンス分類を可能にする。
• ジェスチャーを5つの段階に分割する手動の前処理を実施し、RNNの性能向上を図るとともに、ニューロンの活性化の意味的解釈を可能にした。
• 計算オーバーヘッドと実行時間を削減するため、ReLUおよびMax活性化関数を採用した。
• ハフマン符号化と併用したプルーニング（エッジ削減率68%）によるモデル圧縮を実施したが、モデルサイズと冗長性の低さのため、限界が生じた。

実験結果

リサーチクエスチョン

• RQ1 2 kBのRAMと32 kBのフラッシュメモリを備えた8ビットマイコンに、リアルタイムなセンサデータ分類のための人工ニューラルネットワークを効果的にデプロイできるか？
• RQ2 埋め込みシステムにおける時間的センサデータ分類において、フィードフォワードニューラルネットワーク（FFNN）と再帰ニューラルネットワーク（RNN）の分類精度と計算効率は、どのように比較されるか？
• RQ3 特に照明条件の変化が、デバイス内にANNを搭載したジェスチャー認識の信頼性に与える影響は何か？
• RQ4 プルーニングや量子化といったモデル圧縮技術は、超低リソースデバイスにおいて分類性能を損なわずに、どの程度モデルサイズを縮小できるか？
• RQ5 最小限のハードウェアおよびソフトウェアのオーバーヘッドで、埋め込みセンサモジュールにANNを設計・学習・圧縮・デプロイするための実用的ワークフローをどの程度確立できるか？

主な発見

• 最も優れた性能を示したのは、1,493パラメータを有する2層のフィードフォワードニューラルネットワークで、36 msの推論時間で83%の精度を達成した。
• RNNは71%の精度を達成したが、ジェスチャーの手動による段階的セグメンテーションとより複雑なアノテーションを要し、実装のオーバーヘッドが高かった。
• 浮動小数点演算ユニットを搭載しない8ビットマイコン上で、40 Hzのフレームレートで安定して動作し、2 kBのRAMと32 kBのフラッシュメモリのみを用いた。
• 照明状態が劣化した環境では分類の信頼性が著しく低下し、環境への感受性が顕著に現れた。
• モデル圧縮により、最終的なモデルサイズは元の11.5%にまで縮小されたが、AlexNet や VGG-16 などの大規模モデルと比較して、圧縮効果は低かった。これは、冗長性が低かったためである。
• 本研究では、入力バッファリングを施したFFNNが、最小限の前処理を許容できる状況では、RNNよりも実用的で信頼性が高いことが確認された。