[論文レビュー] HYPER-SNN: Towards Energy-efficient Quantized Deep Spiking Neural Networks for Hyperspectral Image Classification

Gourav Datta, Souvik Kundu+2 more|arXiv (Cornell University)|Jul 26, 2021

Remote-Sensing Image Classification参考文献 61被引用数 5

ひとこと要約

本論文は、アナログのHSIピクセル値をスパイクトレインに変換せずに直接処理できる、量子化されたスパikingニューラルネットワーク（SNN）であるHYPER-SNNを提案する。量子化に伴う訓練を用いることで、3つのデータセットにおいて、フルプレシジョンCNNおよび6ビット量子化CNNと比較して、それぞれ560.6×および44.8×の低い計算エネルギーで最先端の精度を達成した。

ABSTRACT

Hyper spectral images (HSI) provide rich spectral and spatial information across a series of contiguous spectral bands. However, the accurate processing of the spectral and spatial correlation between the bands requires the use of energy-expensive 3-D Convolutional Neural Networks (CNNs). To address this challenge, we propose the use of Spiking Neural Networks (SNNs) that are generated from iso-architecture CNNs and trained with quantization-aware gradient descent to optimize their weights, membrane leak, and firing thresholds. During both training and inference, the analog pixel values of a HSI are directly applied to the input layer of the SNN without the need to convert to a spike-train. The reduced latency of our training technique combined with high activation sparsity yields significant improvements in computational efficiency. We evaluate our proposal using three HSI datasets on a 3-D and a 3-D/2-D hybrid convolutional architecture. We achieve overall accuracy, average accuracy, and kappa coefficient of 98.68%, 98.34%, and 98.20% respectively with 5 time steps (inference latency) and 6-bit weight quantization on the Indian Pines dataset. In particular, our models achieved accuracies similar to state-of-the-art (SOTA) with 560.6 and 44.8 times less compute energy on average over three HSI datasets than an iso-architecture full-precision and 6-bit quantized CNN, respectively.

研究の動機と目的

• HSI分類における3D CNNの高いエネルギー消費を低減すること、特にエッジデプロイメントを念頭に置いたもの。
• 数百のスペクトルバンドを持つ高次元HSIデータを処理する際の従来のCNNの計算非効率性を克服すること。
• フルプレシジョンおよび量子化CNNの代替として、低消費電力でエネルギー効率の高いHSI分類用のSNNを開発すること。
• スパイクトレイン符号化を経由せずに、SNNでアナログHSIピクセル値を直接処理できるようにすることにより、遅延および計算オーバーヘッドを低減すること。
• 量子化に伴う訓練とアーキテクチャ最適化を通じて、最小限の計算エネルギーで最先端の分類精度を達成すること。

提案手法

• 重み、膜透過率、発火閾値を最適化するため、量子化に伴う勾配降下を用いてSNNをエンドツーエンドで訓練する。
• スパイクトレインに変換せずに、アナログHSIピクセル値をSNNの入力層に直接入力することで、入力の忠実性を保持し、符号化遅延を低減する。
• スペクトル・スパティアル特徴を共同で抽出するため、ハイブリッド3D/2D畳み込みアーキテクチャを採用。3D畳み込みはスペクトル相関を、2D畳み込みは空間的文脈を処理する。
• 精度を維持しつつ、6ビットの重み量子化を適用することで、低精度算術のエネルギー効率を活用する。
• 活性化スパarsityと低精度積算（AC）演算を活用し、MAC演算よりもはるかに安価なAC演算を用いることで、計算エネルギーを最小限に抑える。
• SNNが親となるCNNと同等の精度を達成する一方で、エネルギー消費を著しく削減できる訓練フレームワークを採用する。

実験結果

リサーチクエスチョン

• RQ1 量子化に伴う勾配降下で訓練されたSNNは、フルプレシジョンCNNと比較して、HSI分類において競争力のある精度を達成できるか？
• RQ2 SNNにおけるアナログ入力の直接処理は、HSI分類における遅延および計算コストをどの程度低減できるか？
• RQ3 HSI分類タスクにおいて、量子化SNNのエネルギー効率は、フルプレシジョンおよび6ビット量子化CNNと比較してどの程度優れているか？
• RQ4 ハイブリッド3D/2D SNNアーキテクチャは、HSIデータのスペクトル・スパティアル相関を効果的に捉えつつ、低エネルギー消費を維持できるか？
• RQ5 活性化スパarsityおよび低精度算術が、HSI分類におけるSNNの全体的な計算エネルギーに与える影響は何か？

主な発見

• HYPER-SNNは、5時間ステップおよび6ビット重み量子化を用いて、インド・パインズデータセットで全体精度98.68%、平均精度98.34%、カッパ係数98.20%を達成した。
• 提案されたSNNモデルは、3つのHSIデータセット全体で、同アーキテクチャのフルプレシジョンCNNと比較して約560.6×、6ビット量子化CNNと比較して44.8×の低い計算エネルギーを消費した。
• 高い活性化スパarsityと効率的な積算（AC）演算のおかげで、FLOPsが著しく削減された。AC演算は、乗算-加算（MAC）演算よりもはるかに安価である。
• エネルギー節約の主な要因は、6ビット重みの低精度算術、高いスパarsity、およびSNNがスパースなスパイク活動を効率的に活用する本質的効率性の組み合わせによる。
• 訓練フレームワークにより、SNNは親となるCNNと同等の精度を達成しながら、エネルギー消費を著しく削減でき、バッテリ駆動のエッジデバイスへのデプロイメントに適している。
• 重みのビット精度を低下させることで、メモリアクセスコストを5.33倍低減した。さらに、PIMアクセラレータまたは非揮発性メモリアレイのようなメモリ最適化ハードウェア設計により、さらなる向上が可能である。