[論文レビュー] Physical reservoir computing built by spintronic devices for temporal information processing

Wencong Jiang, Lina Chen+5 more|arXiv (Cornell University)|Jan 23, 2019

Advanced Memory and Neural Computing参考文献 36被引用数 15

ひとこと要約

本稿では、磁気スカイミオンメモリスタ（MSM）と24個のスピンターブ・ナノオシレータ（STNO）を用いたスピントロニクス素子を用いた物理的リザボアコンピューティング（RC）システムを提案し、超高速かつ高精度な時系列情報処理を実現する。MSMを用いたRCは手書き数字認識で87.6%の精度を達成し、イオンベースのメモリスタシステムよりも1000倍以上高速にデータ処理が可能である。一方、STNOを用いたRCはNARMA10のような複雑な非線形タスクを低誤差（NRMSE ≈ 0.123）で解き、スピントロニクス素子が脳にインspiredされたニューロモーフィックコンピューティングに適していることを示した。

ABSTRACT

Spintronic nanodevices have ultrafast nonlinear dynamic and recurrence behaviors on a nanosecond scale that promises to enable spintronic reservoir computing (RC) system. Here two physical RC systems based on a single magnetic skyrmion memristor (MSM) and 24 spin-torque nano-oscillators (STNOs) were proposed and modeled to process image classification task and nonlinear dynamic system prediction, respectively. Based on our micromagnetic simulation results on the nonlinear responses of MSM and STNO with current pulses stimulation, the handwritten digits recognition task domesticates that an RC system using one single MSM has the outstanding performance on image classification. In addition, the complex unknown nonlinear dynamic problems can also be well solved by a physical RC system consisted of 24 STNOs confirmed in a second-order nonlinear dynamic system and NARMA10 tasks. The capability of both high accuracy and fast information processing promises to enable one type of brain-like chip based on spintronics for various artificial intelligence tasks.

研究の動機と目的

• スピントロニクスナノデバイスを用いた物理的リザボアコンピューティングシステムの開発を目的とし、内在的な非線形ダイナミクスと短期記憶機能を有する。
• 磁気スカイミオンメモリスタ（MSM）やスピンターブ・ナノオシレータ（STNO）などのスピントロニクス素子が、内部重みの学習を必要とせず物理的リザボアとして機能できることを実証すること。
• 画像分類や非線形動的システム予測を含むベンチマーク時系列処理タスクにおけるこれらの物理的RCシステムの性能を評価すること。
• マイクロ磁気シミュレーションを用いてスピントロニクス素子のリザボアダイナミクスをモデル化・検証し、AIワークロードへの応用可能性を確立すること。
• 精度、速度、エネルギー効率の観点から、従来の人工リザボアシステムと比較してスピントロニクスRCシステムの性能を評価すること。

提案手法

• 電流パルス刺激下での磁気スカイミオンメモリスタ（MSM）の非線形ダイナミクスをモデル化するため、Landau-Lifshitz-Gilbert（LLG）方程式を用いたマイクロ磁気シミュレーションを実施した。
• 24個のSTNOに対する電流パルスへの応答をシミュレートし、磁化の進動および磁気抵抗（MR）出力を捉え、リザボアコンputationに活用した。
• 出力層のみを学習する固定でランダムに接続されたリザボアを採用し、標準的なRCの原則に従った：出力重みのみが線形回帰により学習された。
• リザボア出力を用いてベンチマークタスクを解いた：MNIST手書き数字分類、2次非線形動的システム予測、NARMA10時系列予測。
• 動的タスクには正規化平均二乗誤差（NMSE）を、画像認識タスクには分類精度を用いて性能を評価した。
• 800ステップの時系列データで学習した後、未学習の入力シーケンスに対する汎化性能をテストすることで、耐障害性を検証した。

実験結果

リサーチクエスチョン

• RQ1 1つの磁気スカイミオンメモリスタ（MSM）は、画像分類タスクに有効な物理的リザボアとして機能できるか？
• RQ2 24個のスピンターブ・ナノオシレータ（STNO）のアンサンブルは、2次系やNARMA10タスクのような複雑な非線形動的問題を解けるか？
• RQ3 スピントロニクスRCシステムの精度および処理速度は、従来の人工リザボアシステムと比較してどの程度優れているか？
• RQ4 スピントロニクス素子のデバイスレベルの非線形ダイナミクスと短期記憶機能は、効果的な時系列情報処理をどの程度可能にするか？
• RQ5 固定されたリザボア重みの特性により、スピントロニクス素子の不具合やばらつきに対しても物理的RCシステムは耐性を示すか？

主な発見

• MSMベースのRCシステムは、MNIST手書き数字分類で87.6%の精度を達成し、88個の金属酸化物メモリスタを有するリザボアと同等の性能を示した。
• MSMベースのRCシステムは、ナノ秒スケールの磁化ダイナミクス（イオン移動のミリ秒スケールに比べ）により、イオンベースのメモリスタシステムよりも1000倍以上高速に情報処理が可能であった。
• STNOベースのRCシステムは、2次非線形動的システムの出力をNMSE 1.31×10⁻³で正確に予測し、複雑なダイナミクスのモデル化において高い精度を示した。
• STNOベースのRCシステムはNARMA10タスクでテスト段階でNRMSE 0.123を達成し、400ノードのデジタルリザボア（NRMSE ≈ 0.15）を上回る性能を示した。
• 物理的RCシステムは、固定されたリザボア重みのため再学習が不要であり、新しい入力シーケンスへの汎化性能が優れており、デバイスばらつきに対しても耐性を示した。
• LLG方程式のマイクロ磁気シミュレーションは、スピントロニクス素子の非線形応答を正確に捉えており、物理的リザボア設計への応用の有効性を裏付けた。