[논문 리뷰] Stochastic Spiking Neuron Based SNN Can be Inherently Bayesian

Huannan Zheng, Jingli Liu외 1명|arXiv (Cornell University)|2026. 02. 03.

Advanced Memory and Neural Computing인용 수 0

한 줄 요약

요약: 본 논문은 고유한 소자 확률성 및 확률적 임계 뉴런을 활용하여 높은 정확도와 강인성을 달성하는 스파이킹 베이시안 신경망(SBNN)을 제시하며, 하드웨어 검증이 실용적 이점을 확인한다.

ABSTRACT

Uncertainty in biological neural systems appears to be computationally beneficial rather than detrimental. However, in neuromorphic computing systems, device variability often limits performance, including accuracy and efficiency. In this work, we propose a spiking Bayesian neural network (SBNN) framework that unifies the dynamic models of intrinsic device stochasticity (based on Magnetic Tunnel Junctions) and stochastic threshold neurons to leverage noise as a functional Bayesian resource. Experiments demonstrate that SBNN achieves high accuracy (99.16% on MNIST, 94.84% on CIFAR10) with 8-bit precision. Meanwhile rate estimation method provides a ~20-fold training speedup. Furthermore, SBNN exhibits superior robustness, showing a 67% accuracy improvement under synaptic weight noise and 12% under input noise compared to standard spiking neural networks. Crucially, hardware validation confirms that physical device implementation causes invisible accuracy and calibration loss compared to the algorithmic model. Converting device stochasticity into neuronal uncertainty offers a route to compact, energy-efficient neuromorphic computing under uncertainty.

연구 동기 및 목표

• 뉴로모픽 시스템에서 소자 고유의 확률성을 베이시안 자원으로 활용하도록 동기를 부여한다.
• 자성 터널 접합(Magnetic Tunnel Junctions)에서의 확률성과 확률적 임계 뉴런을 SNN 프레임워크 내에서 통합한다.
• 표준 벤치마크에서 높은 정확도를 보이고 가중치 노이즈 및 입력 노이즈에 대한 강인성을 보여준다.
• 불확실성 하에서 작고 에너지 효율적인 뉴로모픽 하드웨어로의 경로를 제시한다.

제안 방법

• 확률적 스파이킹 베이시안 신경망(SBNN) 프레임워크를 제안한다.
• 자성 터널 접합으로부터의 소자 고유의 확률성과 확률적 임계 뉴런을 모델링한다.
• 8비트 정밀도로 MNIST 및 CIFAR-10에서 학습 및 평가한다.
• 학습 속도를 가속화하기 위한 속도 추정(rate estimation) 방법을 사용한다 (~20배).
• 시냅스 가중치 노이즈 및 입력 노_noise에 대한 강인성을 평가한다.
• 알고리즘 모델과 디바이스 수준 동작을 비교하기 위한 하드웨어 검증.

실험 결과

연구 질문

• RQ1 소자 고유의 확률성을 SNN의 기능적 베이시안 자원으로 활용할 수 있는가?
• RQ2 SBNN이 표준 벤치마크에서 어떤 정확도 및 효율성 이득을 제공하는가?
• RQ3 가중치 노이즈 및 입력 노이즈에 대한 SBNN의 강인성은 표준 SNN과 비교하여 어떤가?
• RQ4 하드웨어 측정이 알고리즘 시뮬레이션과 일치하는가, 어떤 보정 손실이 발생하는가?

주요 결과

• 8비트 정밀도로 MNIST에서 99.16%, CIFAR-10에서 94.84%의 정확도를 달성한다.
• 속도 추정으로 학습이 약 20배 빨라진다.
• 시냅스 가중치 노즈 하에서 67%의 정확도 향상을 보인다.
• 입력 노이즈 하에서 표준 SNN 대비 12% 향상을 보인다.
• 하드웨어 검증은 알고리즘 모델에 비해 정확도 차이가 존재하고 보정 손실이 발생한다는 것을 보인다.