[論文レビュー] AnalogNet: Convolutional Neural Network Inference on Analog Focal Plane Sensor Processors

Matthew Z. Wong, Benoît Guillard+3 more|arXiv (Cornell University)|Jun 2, 2020

CCD and CMOS Imaging Sensors被引用数 8

ひとこと要約

AnalogNetは、センサーチップ上で直接計算を実行することにより、高速かつ低消費電力の画像処理を可能にする、アナログ焦点面センサープロセッサ（FPSP）向けの新しいCNN推論フレームワークを提案する。独自のトレーニング手法を用いることでアナログ計算ノイズに強く、MNISTで96.9%の精度を達成し、1フレームあたり0.7 mJの消費電力で2260 FPSの処理速度を実現した。

ABSTRACT

We present a high-speed, energy-efficient Convolutional Neural Network (CNN) architecture utilising the capabilities of a unique class of devices known as analog Focal Plane Sensor Processors (FPSP), in which the sensor and the processor are embedded together on the same silicon chip. Unlike traditional vision systems, where the sensor array sends collected data to a separate processor for processing, FPSPs allow data to be processed on the imaging device itself. This unique architecture enables ultra-fast image processing and high energy efficiency, at the expense of limited processing resources and approximate computations. In this work, we show how to convert standard CNNs to FPSP code, and demonstrate a method of training networks to increase their robustness to analog computation errors. Our proposed architecture, coined AnalogNet, reaches a testing accuracy of 96.9% on the MNIST handwritten digits recognition task, at a speed of 2260 FPS, for a cost of 0.7 mJ per frame.

研究の動機と目的

• センサとプロセッサを同じチップに統合するアナログ焦点面センサープロセッサ（FPSP）上で、効率的かつ正確なCNN推論を可能にすること。
• ディープラーニングワークロードに適したFPSPに内在するメモリ制限とアナログ計算のノイズの問題に対処すること。
• アナログ計算の近似性に強く、ネットワークの耐性を高めるトレーニング手法を開発すること。
• 標準ベンチマーク（MNIST）を用いて、実ハードウェア上で高フレームレートかつ低消費電力の推論を実証すること。

提案手法

• アナログ計算エラーに対する耐性を高めるために、ノイズモデルを組み込んだカスタムトレーニングプロセスを設計すること。
• SCAMP-5 FPSP上で最適化されたデータフローと計算スケジューリングを用いて、標準CNNレイヤーをFPSP準拠のコードにマッピングすること。
• SCAMP-5 FPSPが備える256×256の処理要素（PE）アレイを活用し、画像データをセンサチップ上ですべての計算を並列に実行すること。
• 制限されたメモリと信号劣化の制約に適合するように、FPSPに特化した単一畳み込み層CNNアーキテクチャを実装すること。
• アナログハードウェアの不正確さに耐性を高めるために、ノイズ対応重み量子化と確率的トレーニング技術を適用すること。
• データ移動を最小限に抑え、焦点面処理モデルを活用することで、エネルギー消費を低減する推論最適化を実施すること。

実験結果

リサーチクエスチョン

• RQ1 制限されたメモリとノイズの多いアナログ演算が存在するFPSPにおいて、標準CNNが有効にマッピング可能かどうか。
• RQ2 FPSPベースの推論におけるアナログ計算エラーに耐性を持つように、トレーニング手順をどのように再設計できるか。
• RQ3 デジタルプロセッサと比較して、焦点面で直接CNN推論を実行することで、どのような性能向上とエネルギー効率の向上が達成できるか。
• RQ4 マルチレイヤー計算に起因するデータ損失とスパarsityが、現在のFPSPハードウェアにおけるCNNのスケーラビリティをどの程度制限するか。
• RQ5 FPSPは、組み込みおよびロボット用途に適したリアルタイムかつ低消費電力の推論を達成できるか。

主な発見

• AnalogNetは、SCAMP-5 FPSP上で単一畳み込み層CNNを用いて、MNISTデータセットで96.9%のテスト精度を達成した。
• システムは2260 FPSというフレームレートを達成し、CPU、GPU、VPUと比較して推論速度とエネルギー効率の両面で顕著に優れていた。
• SCAMP-5上でのエネルギー消費は、すべての処理とデータ管理を含めて1フレームあたりたった0.7 mJであり、CPU、GPU、VPUシステムよりも効率的だった。
• FPSPの全エネルギーコストは、画像取得やデータ転送のエネルギーを含まないCPU、GPU、VPUの保守的下限値を下回っていた。
• 繰り返しのアナログ演算（例：除算や乗算）によるノイズが信号劣化と分散の増加を引き起こし、テストケースでは標準偏差が約2から約6.3に上昇した。
• 本研究では、プーリングに起因するデータ損失と空間スパarsityが、現在のFPSPハードウェア上で単一畳み込み層を超えるCNNの拡張を妨える根本的課題であると特定した。