[論文レビュー] Characterization of Neural Networks Automatically Mapped on Automotive-grade Microcontrollers

Giulia Crocioni, Giambattista Gruosso+4 more|arXiv (Cornell University)|Feb 27, 2021

Advanced Battery Technologies Research参考文献 29被引用数 6

ひとこと要約

本論文は、自動車グレードのマイコンコントローラー上で事前学習済みニューラルネットワークを実装し、リアルタイムエッジ推論を可能にするフレームワークを提示している。本手法は、CANバスの不正侵入検出およびリチウムイオン電池の残存容量推定において有効であることが実証された。モデルはSPC58NH MCU上で5ms未満の推論時間を達成し、Flashメモリが36KB未満、RAMが3KB未塔を満たしており、自動車の安全性と性能要件を満たしている。

ABSTRACT

Nowadays, Neural Networks represent a major expectation for the realization of powerful Deep Learning algorithms, which can determine several physical systems' behaviors and operations. Computational resources required for model, training, and running are large, especially when related to the amount of data that Neural Networks typically need to generalize. The latest TinyML technologies allow integrating pre-trained models on embedded systems, allowing making computing at the edge faster, cheaper, and safer. Although these technologies originated in the consumer and industrial worlds, many sectors can greatly benefit from them, such as the automotive industry. In this paper, we present a framework for implementing Neural Network-based models on a family of automotive Microcontrollers, showing their efficiency in two case studies applied to vehicles: intrusion detection on the Controller Area Network bus and residual capacity estimation in Lithium-Ion batteries, widely used in Electric Vehicles.

研究の動機と目的

• リソース制限のある自動車用マイコンコントローラー上で、事前学習済みニューラルネットワークのデバイス内推論を可能にすること。
• 限られたメモリと処理能力を持つ安全が求められる自動車システムに、複雑なニューラルネットワークをデプロイする課題に対処すること。
• TinyMLの実用性と効率性を、2つの重要な自動車用途（CANバス不正侵入検出およびリチウムイオン電池のSOH推定）において検証すること。
• 複数の自動車MCUを対象に、Flash、RAM、および推論時間の観点からモデルの複雑さをプロファイリングすること。

提案手法

• 時系列データ処理のためのハイブリッドCNN-LSTMアーキテクチャを設計し、1次元畳み込み層、マックスプーリング、およびTanh活性化関数を用いたLSTM層を採用した。
• CANバストラフィックの異常検出にLSTMオートエンコーダを用い、入力はMinMaxScalerで正規化され、Adam最適化法とMSE損失関数を用いて学習した。
• バッテリー容量推定のためのCNN-LSTMモデルは、20ステップの時系列と4つの特徴量を扱い、出力層は1つの全結合層であり、評価指標にはMAEを用いた。
• 事前学習済みモデルは、SPC5-STUDIO AIプラグインを用いて、3つの自動車MCU（SPC584B、SPC58EC、SPC58NH）に自動的にマッピングされた。
• モデルの複雑さは、全MCUにわたるFlashメモリ使用量、RAM使用量、および平均推論時間を測定することでプロファイリングされた。
• 各モデルは異なる乱数シードを用いて10回学習し、耐久性を確保した。検証では、元のモデルの出力を正例として用い、100％のクロス正答率を達成した。

実験結果

リサーチクエスチョン

• RQ1 事前学習済みニューラルネットワークは、安全が求められる応用分野において、リソース制限のある自動車用マイコンコントローラー上でリアルタイムエッジ推論を効果的に行うことができるか？
• RQ2 自動車MCUにマッピングされた際のニューラルネットワークモデルの計算フットプリント（Flash、RAM、推論時間）はどの程度か？
• RQ3 異なるMCUのクロック周波数は、組み込みニューラルネットワークのデプロイにおいて推論性能にどのように影響するか？
• RQ4 ニューラルネットワークは、厳密なメモリ制限と遅延制限の下でも、CANバス不正侵入検出およびリチウムイオン電池容量推定において十分な精度を達成できるか？
• RQ5 モデルアーキテクチャ（例：LSTMオートエンコーダ対CNN-LSTM）は、自動車MCU上でのリソース利用量と推論効率にどのように影響するか？

主な発見

• LSTMオートエンコーダは、SPC58NH MCU上で平均6msの推論時間を達成し、Flash使用量が24.92KB、RAM使用量が4.05KBであった。
• CNN-LSTMモデルは、Flash使用量35.13KB、RAM使用量2.25KBを要し、SPC58NH MCU上で平均3.86msの推論時間を達成した。
• CNN-LSTMモデルは、残存容量推定において平均絶対誤差（MAE）が0.0434を記録し、EVの許容範囲±0.05を下回った。
• 両モデルにおいてLSTM層が最もリソースを消費するコンponentであり、Flash、RAM、実行時間のすべてで最大の割合を占めた。
• 推論時間はMCUのクロック周波数の増加に比例して線形に短縮され、SPC58NHが両モデルで最も高速な性能を示した。
• 両モデルとも検証段階で100％のクロス正答率を達成し、Cモデルのマッピングプロセスの正確性が裏付けられた。