[논문 리뷰] RMP-SNN: Residual Membrane Potential Neuron for Enabling Deeper High-Accuracy and Low-Latency Spiking Neural Network

Bing Han, Gopalakrishnan Srinivasan외 1명|arXiv (Cornell University)|2020. 02. 25.

Advanced Memory and Neural Computing참고 문헌 46인용 수 34

한 줄 요약

이 논문은 잔차 막 전위(RMP) 스파이킹 뉴런을 도입하여 ANN-SNN 변환을 가능하게 하며, CIFAR-10/100 및 ImageNet에서 VGG-16, ResNet-20/34에 걸쳐 하드 리셋 스파이킹 뉴런보다 훨씬 낮은 지연 속도와 거의 손실 없이의 변환을 달성합니다.

ABSTRACT

Spiking Neural Networks (SNNs) have recently attracted significant research interest as the third generation of artificial neural networks that can enable low-power event-driven data analytics. The best performing SNNs for image recognition tasks are obtained by converting a trained Analog Neural Network (ANN), consisting of Rectified Linear Units (ReLU), to SNN composed of integrate-and-fire neurons with "proper" firing thresholds. The converted SNNs typically incur loss in accuracy compared to that provided by the original ANN and require sizable number of inference time-steps to achieve the best accuracy. We find that performance degradation in the converted SNN stems from using "hard reset" spiking neuron that is driven to fixed reset potential once its membrane potential exceeds the firing threshold, leading to information loss during SNN inference. We propose ANN-SNN conversion using "soft reset" spiking neuron model, referred to as Residual Membrane Potential (RMP) spiking neuron, which retains the "residual" membrane potential above threshold at the firing instants. We demonstrate near loss-less ANN-SNN conversion using RMP neurons for VGG-16, ResNet-20, and ResNet-34 SNNs on challenging datasets including CIFAR-10 (93.63% top-1), CIFAR-100 (70.93% top-1), and ImageNet (73.09% top-1 accuracy). Our results also show that RMP-SNN surpasses the best inference accuracy provided by the converted SNN with "hard reset" spiking neurons using 2-8 times fewer inference time-steps across network architectures and datasets.

연구 동기 및 목표

• ANN-SNN 변환에서 하드 리셋 스파이킹 뉴런으로 인한 정보 손실 문제를 해결한다.
• 방출 후 잔류 막 전위를 보존하기 위해 소프트 리셋 잔차 막 전위(RMP) 뉴런을 제안한다.
• 깊은 SNN의 거의 손실 없는 변환을 가능하게 하는 임계 초기화 및 훈련 제약을 개발한다.
• CIFAR-10, CIFAR-100 및 ImageNet 전반에 걸쳐 VGG-16, ResNet-20, ResNet-34에서 고정밀도와 낮은 지연의 SNN을 시연한다.

제안 방법

• 소진 시점에서 V_th를 빼는 방식으로 소프트 리셋을 수행하는 잔차 막 전위(RMP) 스파이킹 뉴런을 도입한다 (V_m <- V_m - V_th).
• RMP가 넓은 η 범위에서 선형 입력-출력 동작 f_out ≈ η f_in을 생성하여 정확한 ANN-SNN 매핑이 가능하다고 보인다.
• 원하는 범위 [f_in, 1)에서 f_out를 유지하고 과도한 스파이크를 방지하기 위해 임계값 경계 V_in 및 V_th를 도출한다(Eq. 6 및 Eq. 7).
• V_in^max를 사용한 V_th 상한 및 임계값(α) 스케일링으로 정확도-지연의 최적 교환을 위한 임계값 균형을 제안한다.
• 깊은 네트워크에 대해 배치 정규화 제거 및 바이어스 제거를 포함한 제약된 ANN 훈련과 층별 임계값 초기화를 적용한다.

실험 결과

연구 질문

• RQ1 소프트 리셋(RMP) 뉴런이 ANN-SNN 변환 중 정보 보존에 하드 리셋 IF 뉴런과 비교하여 어떤 영향을 미치는가?
• RQ2 임계값 초기화와 제약된 ANN 훈련이 CIFAR-10/100 및 ImageNet에서 VGG-16, ResNet-20/34와 같은 깊은 네트워크에 대해 거의 손실 없는 변환을 가능하게 하는가?
• RQ3 전통적 SNN에 비해 RMP의 추론 지연 및 스파이크 활동에 어떤 영향이 있는가?
• RQ4 RMP-SNN에서 정확도를 최대화하고 지연을 최소화하는 임계값 및 동작 영역은 무엇인가?

주요 결과

• RMP 뉴런은 잔류 막 전위를 보존하여 테스트된 네트워크 및 데이터셋 전반에서 ANN 기준선에 거의 근접하거나 같은 수준의 Top-1 정확도를 달성하는 거의 손실 없는 ANN-SNN 변환을 가능하게 한다.
• RMP-SNN은 CIFAR-10, CIFAR-100, ImageNet에서 비교 가능한 혹은 더 나은 정확도를 달성하기 위해 하드 리셋 SNN보다 2–8× 적은 추론 타임스텝이 필요하다.
• V_in^max를 사용한 계층별 임계값 초기화와 제약된 ANN 훈련은 기존의 하드 리셋 기반 변환에 비해 변환 손실을 크게 줄이며(예: CIFAR-10, CIFAR-100, ImageNet)
• VGG-16 RMP-SNN은 CIFAR-10에서 93.63%의 Top-1를 ANN과 일치시키며 2048 타임스텝에서 달성하고, 임계값 축소 variant는 64–512 타임스텝에서 높은 정확도에 도달한다.
• ResNet-20/34는 기존의 하드 리셋 SNN보다 상당한 정확도 향상을 보이며, 축소 임계값 variant는 스파이크 활동을 약 1–2% 범위로 유지하면서 추론을 최대 8× 더 빠르게 수행한다.
• 데이터셋 전반에 걸쳐 RMP-SNN은 비교된 방법 중에서 가장 좋은 보고된 정확도와 ANN-SNN 변환 손실을 보여준다.