[論文レビュー] Memory-Augmented Spiking Networks: Synergistic Integration of Complementary Mechanisms for Neuromorphic Vision

Effiong Blessing, Chiung-Yi Tseng+2 more|arXiv (Cornell University)|Feb 21, 2026

Advanced Memory and Neural Computing被引用数 0

ひとこと要約

この論文は、N-MNIST に対する五つの memory-augmented spiking neural network 構成を体系的に研究し、対比学習、Hopfield memory、時間ゲーティングの相互作用を明らかにし、アーキテクチャのバランスが優れた memory assembly の質と精度を高エネルギー効率でもたらすことを示しています。

ABSTRACT

Spiking Neural Networks (SNNs) provide biological plausibility and energy efficiency, yet systematic investigations of memory augmentation strategies remain limited. We conduct a five-model ablation study integrating Leaky Integrate-and-Fire neurons, Supervised Contrastive Learning (SCL), Hopfield networks, and Hierarchical Gated Recurrent Networks (HGRN) on the N-MNIST dataset. Baseline SNNs exhibit organized neuronal groupings, or structured assemblies, characterized by a silhouette score of $0.687 \pm 0.012$. Individual augmentations introduce trade-offs: SCL improves accuracy by $0.28\%$ but reduces clustering (silhouette score $0.637 \pm 0.015$), while HGRN yields consistent gains in both accuracy ($+1.01\%$) and computational efficiency ($170.6 imes$). Full integration achieves a balanced improvement across metrics, reaching a silhouette score of $0.715 \pm 0.008$, classification accuracy of $97.49 \pm 0.10\%$, energy consumption of $1.85 \pm 0.06\,μ\mathrm{J}$, and sparsity of $97.0\%$. These results indicate that optimal performance emerges from architectural balance rather than isolated optimization, establishing design principles for memory-augmented neuromorphic systems.

研究の動機と目的

• 異なる memory augmentation メカニズム（対照学習、連想 memory、時系列ゲーティング）がスパイクニューロン網に統合されたとき、どのように相互作用するかを調査する。
• コンポーネントを個別に最適化するよりも、メモリ機構間のアーキテクチャ的バランスがより良い性能を生むかを評価する。
• N-MNIST 上で構成ごとに memory assembly 質、精度、エネルギー効率を定量化する。
• アブレーション結果に基づくハイブリッドニューロモルフィックアーキテクチャの設計原理を導出する。

提案手法

• Leaky Integrate-and-Fire ニューロン、Supervised Contrastive Learning、Hopfield連想 memory、Hierarchical Gated Recurrent Networks を組み込んで SNN を構築する。
• N-MNIST に対する five-model ablation を実施する：M1 ベースライン、M2 +SCL、M3 +Hopfield、M4 +HGRN、M5 フルハイブリッド。
• SNN エンコーダから得られる 512 次元の特徴空間を memory modules の基板として使用する。
• クロスエントロピー損失と SCL 損失の組み合わせ、および HGRN の differentiable gating を用いて訓練する。
• memory assembly の質を silhouette coefficient で、エネルギー効率をシナプス操作数（SynOps）で測定する。
• 同じデータセット上の最新手法と比較する。

実験結果

リサーチクエスチョン

• RQ1 対照学習、連想 memory、時間ゲーティングはスパイクベースのアーキテクチャ内でどのように相互作用するのか。
• RQ2 メモリ機構間のアーキテクチャ的バランスは、単一コンポーネントの最適化よりも良い性能を引き出せるのか。
• RQ3 ニューロモルフィック vision データ上で、精度、memory assembly 質、エネルギー効率の点で、memory-augmented SNN の最適構成は何か。

主な発見

Model	Val Acc (%)	Test Acc (%)	Silhouette	Energy (µJ)
M1: Baseline	96.43	96.35	0.687	2.39
M2: Baseline + SCL	96.71	96.68	0.637	2.90
M3: SNN + SCL + Hopfield	96.21	96.15	0.695	~2.3
M4: SNN + SCL + HGRN	97.44	97.38	0.698	1.85
M5: Full Hybrid (All)	97.49	97.44	0.715	~1.9

• ベースライン SNN は自然に構造化された memory assembly を形成し、 silhouette が 0.687、精度が 96.43%。
• SCL を追加すると精度が 96.71% に上がるが silhouette は 0.637 に低下。
• Hopfield memory は silhouette を 0.695 に改善するが、精度は 96.21% に低下。
• HGRN は精度を +1.01%（97.44% へ）とし、 silhouette は 0.698、エネルギー効率は 高く（170.6×）で、疎度は 97.0%。
• 全統合（M5）は silhouette 0.715、精度は検証 97.49%、テスト 97.44%、エネルギー約 1.9 µJ、疎度 97.0%。
• アーキテクチャ的バランスは、個別コンポーネントの最適化を超える相乗効果を生む。
• エネルギー分析では HGRN 基盤の構成が最も効率的を達成する一方、バックボーン層がエネルギー消費の支配的要因である。