[論文レビュー] Matterhorn: Efficient Analog Sparse Spiking Transformer Architecture with Masked Time-To-First-Spike Encoding

Zhanglu Yan, Kaiwen Tang+4 more|arXiv (Cornell University)|Jan 30, 2026

Advanced Memory and Neural Computing被引用数 0

ひとこと要約

Matterhornはマスクド時間-初スパイク (masked time-to-first-spike) エンコーディングとメムリスト型インメモリ・シナプスユニットを提案し、エネルギー効率の高いスパイキングTransformerを構築。SNNの中でGLUEの現状最高精度を達成しつつエネルギー消費を大幅に削減。

ABSTRACT

Spiking neural networks (SNNs) have emerged as a promising candidate for energy-efficient LLM inference. However, current energy evaluations for SNNs primarily focus on counting accumulate operations, and fail to account for real-world hardware costs such as data movement, which can consume nearly 80% of the total energy. In this paper, we propose Matterhorn, a spiking transformer that integrates a novel masked time-to-first-spike (M-TTFS) encoding method to reduce spike movement and a memristive synapse unit (MSU) to eliminate weight access overhead. M-TTFS employs a masking strategy that reassigns the zero-energy silent state (a spike train of all 0s) to the most frequent membrane potential rather than the lowest. This aligns the coding scheme with the data distribution, minimizing spike movement energy without information loss. We further propose a `dead zone' strategy that maximizes sparsity by mapping all values within a given range to the silent state. At the hardware level, the MSU utilizes compute-in-memory (CIM) technology to perform analog integration directly within memory, effectively removing weight access costs. On the GLUE benchmark, Matterhorn establishes a new state-of-the-art, surpassing existing SNNs by 1.42% in average accuracy while delivering a 2.31 times improvement in energy efficiency.

研究の動機と目的

• 実ハードウェアのコスト（MAC以外も含む）を考慮して、スパイキングニューラルネットワークによるエネルギー効率の高いLLM推論を動機づける。
• 情報を保持しつつスパイク操作を最小化するM-TTFSエンコーディングを導入する。
• 重量アクセスのオーバーヘッドを排除するため、計算在内メモリ（compute-in-memory）を用いたメムリスティブ・シナプスユニット（MSU）を提案する。
• SNNのGLUE精度を現状最高レベルにし、エネルギー効率の向上を定量化する。

提案手法

• silent状態を最頻の膜電位時刻I_maxへ再マッピングし、I_max周辺の任意的デッドゾーンを導入するMasked Time-to-First-Spike (M-TTFS) エンコーディングを導入。
• デッドゾーン半径kを用いてM-TTFSを一般化し、スパース性を最大化しスパイク移動エネルギーを削減。
• デッドゾーン対応量子化ネットワークで訓練しM-TTFS SNNへマップするQNN-to-SNN変換フレームワークを提示。
• アナログ CIMクロスバー（nT1R）に基づくMemristive Synapse Unit（MSU）を設計し、ビットシリアル処理によるインメモリVMMを実行。
• スパイク処理、閾値処理、メモリアクセスを組み込んだFCおよび注意機構Q/K/Vのエネルギー分解方程式を提供。
• 22nmプロセスと空間データフローアーキテクチャ上でハイブリッドデジタル/アナログモデルを用いてエネルギーを評価。

実験結果

リサーチクエスチョン

• RQ1 M-TTFSエンコードはスパイクレート、スパイク移動エネルギー、精度にどのような影響を与えるか。
• RQ2 デッドゾーンパラメータkが疎性、エネルギー、GLUE性能に与える影響は。
• RQ3 MSUによって重量アクセスコストを排除し、精度を損なうことなくエネルギーをさらに削減できるか。
• RQ4 MatterhornはGLUEにおける精度とエネルギー効率の点で従来のSNNやフル精度ベースと比較してどうか。

主な発見

Model	Size	QQP	MNLI-m	SST-2	QNLI	RTE	MRPC	STS-B	Average
1-bit Matterhorn(k=0)	13.4M	89.55	81.81	92.55	89.55	72.56	88.24	86.82	85.87
1-bit Matterhorn(k=1)	13.4M	88.32	80.70	91.63	87.74	71.84	86.27	86.00	84.64

• MatterhornはGLUE上のスパイキングTransformerの中で現状最高精度を達成し、1ビットMatterhorn(k=0)の平均は85.87%、Matterhorn(k=1)は平均84.64%。
• M-TTFSはスパイク移動エネルギーとスパイクレートを低減。例えばSST-2ではデッドゾーンk=1でエネルギー削減と精度のごくわずかな喪失。
• デッドゾーンk=1とMSUの組み合わせで、1トランスフォーマブロックあたりの総エネルギーを6.14mJと算定。デジタルベースラインの2.7倍の削減、Spiking Ottersより57%低減。
• Matterhorn(k=1)は前例の最先端より2.31倍のエネルギー効率改善を達成し、GLUE上の先行SNNより平均精度を1.42%上回る。
• デッドゾーンを取り入れたトレーニングループを用いたQNN-to-SNN等価性を維持しており、Matterhornとしてデプロイした際には同等の精度でエネルギー効率を向上させる。