[論文レビュー] Stochastic Spiking Neuron Based SNN Can be Inherently Bayesian

Huannan Zheng, Jingli Liu+1 more|arXiv (Cornell University)|Feb 3, 2026

Advanced Memory and Neural Computing被引用数 0

ひとこと要約

論文はintrinsic device stochasticityと確率閾値ニューロンを活用して高精度と頑健性を達成するスパイキング・ベイジアン・ニューラルネットワーク（SBNN）を提示し、ハードウェア検証が実用的な利点を確認します。

ABSTRACT

Uncertainty in biological neural systems appears to be computationally beneficial rather than detrimental. However, in neuromorphic computing systems, device variability often limits performance, including accuracy and efficiency. In this work, we propose a spiking Bayesian neural network (SBNN) framework that unifies the dynamic models of intrinsic device stochasticity (based on Magnetic Tunnel Junctions) and stochastic threshold neurons to leverage noise as a functional Bayesian resource. Experiments demonstrate that SBNN achieves high accuracy (99.16% on MNIST, 94.84% on CIFAR10) with 8-bit precision. Meanwhile rate estimation method provides a ~20-fold training speedup. Furthermore, SBNN exhibits superior robustness, showing a 67% accuracy improvement under synaptic weight noise and 12% under input noise compared to standard spiking neural networks. Crucially, hardware validation confirms that physical device implementation causes invisible accuracy and calibration loss compared to the algorithmic model. Converting device stochasticity into neuronal uncertainty offers a route to compact, energy-efficient neuromorphic computing under uncertainty.

研究の動機と目的

• ニューロモルフィック・システムにおけるベイズ資源としての内部デバイス確率性の動機づけ。
• SNNフレームワーク内で磁気トンネル接合（Magnetic Tunnel Junctions）由来の確率性と確率閾値ニューロンを統合。
• 標準ベンチマークでの高精度を実証し、重みノイズおよび入力ノイズ下での頑健性を示す。
• 不確実性下でのコンパクトでエネルギー効率の良いニューロモルフィックハードウェアへの道を提供する。

提案手法

• 確率的スパイキングベイジアンニューラルネットワーク（SBNN）フレームワークを提案。
• デバイス固有の確率性（磁気トンネル接合由来）と確率閾値ニューロンをモデル化。
• MNISTとCIFAR-10を8ビット精度で訓練・評価。
• 訓練を加速するためのレート推定法を使用（約20倍）。
• シナプス重みノイズと入力ノイズに対する頑健性を評価。
• アルゴリズムモデルとデバイスレベルの挙動を比較するハードウェア検証。

実験結果

リサーチクエスチョン

• RQ1 内部デバイス確率性をSNNの機能的ベイジアン資源として活用できるか？
• RQ2 標準的なベンチマークでSBNNにおける精度と効率の向上はどの程度か？
• RQ3 SBNNは標準SNNと比較してシナプス重みノイズと入力ノイズに対してどれだけ頑健か？
• RQ4 ハードウェア測定はアルゴリズムシミュレーションと一致するか、校正損失は生じるか？

主な発見

• MNISTで99.16%の精度、CIFAR-10で94.84%の精度を8ビット精度で達成。
• レート推定により訓練速度が約20倍向上。
• シナプス重みノイズ下で67%の精度向上を示す。
• 入力ノイズ下で標準SNNと比較して12%の改善を示す。
• ハードウェア検証ではアルゴリズムモデルに対する見えない精度と校正損失を示す。