[論文レビュー] Exploiting Spiking Dynamics with Spatial-temporal Feature Normalization in Graph Learning

Mingkun Xu, Yujie Wu+4 more|arXiv (Cornell University)|Jun 30, 2021

Advanced Memory and Neural Computing参考文献 17被引用数 4

ひとこと要約

本稿では、空間的・時間的アンフォールディングと、新規の空間的・時間的特徴正規化（STFN）技術を用いて、グラフ畳み込みとアテンションメカニズムをスパイクダイナミクスと統合する一般化されたスパイクベースのフレームワーク、Graph SNNsを提案する。この手法により、スパイクニューラルネットワークをグラフ構造データに対して直接学習可能となり、従来のGNNと比較して最大53.61倍の計算コスト低減を達成し、ノード分類ベンチマークで最先端の性能を示し、神経形状ハードウェアにおける高い効率性と収束性を示している。

ABSTRACT

Biological spiking neurons with intrinsic dynamics underlie the powerful representation and learning capabilities of the brain for processing multimodal information in complex environments. Despite recent tremendous progress in spiking neural networks (SNNs) for handling Euclidean-space tasks, it still remains challenging to exploit SNNs in processing non-Euclidean-space data represented by graph data, mainly due to the lack of effective modeling framework and useful training techniques. Here we present a general spike-based modeling framework that enables the direct training of SNNs for graph learning. Through spatial-temporal unfolding for spiking data flows of node features, we incorporate graph convolution filters into spiking dynamics and formalize a synergistic learning paradigm. Considering the unique features of spike representation and spiking dynamics, we propose a spatial-temporal feature normalization (STFN) technique suitable for SNN to accelerate convergence. We instantiate our methods into two spiking graph models, including graph convolution SNNs and graph attention SNNs, and validate their performance on three node-classification benchmarks, including Cora, Citeseer, and Pubmed. Our model can achieve comparable performance with the state-of-the-art graph neural network (GNN) models with much lower computation costs, demonstrating great benefits for the execution on neuromorphic hardware and prompting neuromorphic applications in graphical scenarios.

研究の動機と目的

• 非ユークリッド的グラフ構造データをスパイクニューラルネットワークを用いて処理できる一般化された、学習可能なスパイクベースのフレームワークの開発。
• 複雑なスパイクダイナミクスと効果的な正規化手法の欠如により、SNNをグラフ上で学習することが困難であるという課題の解決。
• スパイクダイナミクスとグラフトポロジに特化した正規化手法の設計により、グラフSNNの収束を加速し、性能を向上。
• 特に低消費電力の神経形状コンピューティング応用を想定した、SNNのグラフ学習タスクにおける実現可能性と効率性の実証。

提案手法

• 時間的・空間的次元にわたり、二値化されたノード特徴量を空間的・時間的アンフォールディングすることで、スパイクダイナミクスにおける反復的メッセージパッシングを可能に。
• 統一的で反復的なメッセージパッシングメカニズムを介して、グラフ畳み込みとアテンションフィルタをスパイクダイナミクスに統合。
• 膜電位を特徴量および時間的次元にわたって正規化する空間的・時間的特徴正規化（STFN）技術を提案し、学習の安定化を図る。
• スパイク活動を最終予測に変換する二段階のデコーディング機構を採用し、イベント駆動型計算を活用。
• 計算コストを低減するため、二値スパイク通信を採用し、密度のある乗算を加算に置き換える。
• GCNやGATの変種を含む、さまざまなグラフ伝搬操作に適用可能な汎用性を備えたフレームワークとして設計。

実験結果

リサーチクエスチョン

• RQ1 グラフ畳み込みとスパイクダイナミクスを統合する統一されたフレームワークを用いて、スパイクニューラルネットワークをグラフ構造データ上で効果的に学習可能か？
• RQ2 スパイクダイナミクスとグラフトポロジの独自の制約に適合する正規化手法は、どのように設計できるか？特に、学習の収束性向上に寄与するか？
• RQ3 SNNは、グラフタスクにおいて、計算コストとエネルギー消費を低く抑えつつ、最先端のGNNと同等の性能を達成できるか？
• RQ4 時間ウィンドウ長が、半教師あり学習のシナリオにおけるグラフSNNの性能と効率性にどのように影響を与えるか？

主な発見

• 提案されたGraph SNNsは、Cora、Citeseer、PubMedベンチマークにおいて、最先端のGNN（GCN、GAT）と同等のノード分類精度を達成しており、わずかな性能差に留まる。
• STFN技術により、学習の収束が著しく加速され、過学習が軽減される。Citeseerでの実験では、損失の低下が速く、テスト精度曲線の安定性が向上している。
• 時間ウィンドウをたった5ステップにまで短縮しても、モデルは強力な性能を維持しており、有効な学習に長時間の時間的統合が必須でないことを示している。
• 深層アーキテクチャにおいて、GNNと比較して最大53.61倍の演算コスト圧縮比を達成しており、主にスパースなスパイクベース計算と二値通信によるものである。
• ニューロンの発火率は低く（平均で≤20％、大多数が<10％）、スパイクベース表現の高さのスパarsityとエネルギー効率性を裏付けている。
• フレームワークは強力な転送性を示しており、グラフ畳み込みSNN（GC-SNN）およびグラフアテンションSNN（GA-SNN）への適応が成功しており、汎用性の妥当性が検証された。