[論文レビュー] Developing All-Skyrmion Spiking Neural Network

Zhezhi He, Deliang Fan|arXiv (Cornell University)|May 8, 2017

Advanced Memory and Neural Computing参考文献 11被引用数 7

ひとこと要約

本論文は、電荷-スピン変換を必要とせず、トポロジカルに安定な磁気スカーミオンを情報担い手および計算素子として用いる、全スカーミオン型スパイikingニューラルネットワーク（AS-SNN）を提案する。スパイクトレインをスカーミオントレインに符号化し、ナノトラックにおけるスカーミオンダイナミクスを活用することで、MNISTデータセットで87.1%の推論精度を達成し、スパイクあたり約1 fJのエネルギー消費を実現。これは、IBM TrueNorthのようなCMOSベースのシステムと比較して3桁低いエネルギー効率を達成した。

ABSTRACT

In this work, we have proposed a revolutionary neuromorphic computing methodology to implement All-Skyrmion Spiking Neural Network (AS-SNN). Such proposed methodology is based on our finding that skyrmion is a topological stable spin texture and its spatiotemporal motion along the magnetic nano-track intuitively interprets the pulse signal transmission between two interconnected neurons. In such design, spike train in SNN could be encoded as particle-like skyrmion train and further processed by the proposed skyrmion-synapse and skyrmion-neuron within the same magnetic nano-track to generate output skyrmion as post-spike. Then, both pre-neuron spikes and post-neuron spikes are encoded as particle-like skyrmions without conversion between charge and spin signals, which fundamentally differentiates our proposed design from other hybrid Spin-CMOS designs. The system level simulation shows 87.1% inference accuracy for handwritten digit recognition task, while the energy dissipation is ~1 fJ/per spike which is 3 orders smaller in comparison with CMOS based IBM TrueNorth system.

研究の動機と目的

• 認知計算タスクにおける従来のCMOSベースのバイアス・ニューマンアーキテクチャのエネルギー非効率性と速度制限を解決すること。
• ハイブリッドスピン-CMOSニューロモーフィックシステムにおける電荷とスピン間の信号変換に伴うエネルギーオーバーヘッドを克服すること。
• 信号伝送と計算の両方がスカーミオンによって媒介される、完全にスピンベースのニューロモーフィックプラットフォームの開発。
• スカーミオンの運動と相互作用を用いて神経ダイナミクスを模倣することで、高いエネルギー効率と生物学的妥当性を実現すること。
• MNISTデータセットを用いたシステムレベルのシミュレーションを通じて、AS-SNNアーキテクチャの実現可能性と性能を実証すること。

提案手法

• 入力スパイクトレインを、磁性ナノトラックに沿って進行する粒子的スカーミオンの列に符号化する。
• Y字型ナノトラック構造における電圧制御磁気異方性（VCMA）を用いて、二値のシナプス重み（'0' または '1'）を実装し、重み値に応じてスカーミオンをルーティングする。
• ドメインウォールペア（DWP）ダイナミクスを用いたスカーミオンベースの積分・発火ニューロンを設計：スカーミオンがしきい値に達するまでノッチ領域に蓄積される。
• 隣接するナノトラック間の磁気結合を活用し、しきい値を超えた際に出力パスに新しいDWPを核生成し、これを出力スカーミオンに変換する。
• スカーミオンの複製をY字型構造で実現し、伝搬中にファンアウトを可能にすることで、イベント駆動型ニューロン接続性をサポートする。
• 発火後の自己不活性化期間（refractory period）中にスピン偏極子を用いてDWPを再核生成することで、ニューロンをリセットする。

実験結果

リサーチクエスチョン

• RQ1 スカーミオンを電荷-スピン変換を伴わずに、スパイキングニューラルネットワークにおける情報担い手および計算ユニットとして使用可能か？
• RQ2 スカーミオンダイナミクスをどのように活用することで、生物学的模倣の積分・発火ニューロン行動を実現できるか？
• RQ3 従来のCMOS実装と比較して、完全にスカーミオンベースのSNNの推論精度とエネルギー効率はどの程度達成可能か？
• RQ4 VCMA制御の障壁を用いたスカーミオンルーティングによって、二値のシナプス重みを効果的に実現できるか？
• RQ5 電荷とスピン間の信号変換が存在しないことで、システムレベルのエネルギー効率とスケーラビリティにどのような影響を与えるか？

主な発見

• 全スカーミオン型スパイキングニューラルネットワーク（AS-SNN）は、MNIST手書き数字認識タスクで87.1%の推論精度を達成した。
• AS-SNNのエネルギー消費はスパイクあたり約1 fJであり、IBM TrueNorthのCMOSベースのシステムと比較して3桁以上も低減された。
• スカーミオンダイナミクス、特にDWPのピンチ・オフとDWPからスカーミオンへの変換が、効果的に積分・発火ニューロン行動を模倣できることを示した。
• Y字型ナノトラックにおけるVCMA誘発磁気異方性障壁を用いて、二値のシナプス重みが成功裏に実装され、スカーミオンの選択的ルーティングが可能となった。
• Y字型構造におけるスカーミオン複製により、追加コストなしにエネルギー効率の良いファンアウトが実現可能であり、大規模な相互接続性を支持した。
• AS-SNNアーキテクチャでは電荷-スピン変換が存在しないため、ハイブリッドスピン-CMOS設計と比較して、エネルギーオーバーヘッドが根本的に低減され、生物学的妥当性が向上した。