[論文レビュー] Multilayer spintronic neural networks with radio-frequency connections

Andrew Ross, Nathan Leroux+19 more|arXiv (Cornell University)|Nov 7, 2022

Advanced Memory and Neural Computing被引用数 5

ひとこと要約

この論文では、磁気トンネル接合（MTJ）をシナプスおよびニューロンとして用い、RF信号を介した通信により、非線形分離可能なRF入力をエンドツーエンドでアナログ的・低消費電力に分類する、マルチレイヤーのスピントロニクスニューラルネットワークを提案する。ハードウェアプロトタイプは、非線形分離可能なRFパターンの分類において97.7％の精度を達成し、シミュレーションでは1mW未満の消費電力と、デジタル化を伴わない最先端のドローン識別性能を示している。

ABSTRACT

Spintronic nano-synapses and nano-neurons perform complex cognitive computations with high accuracy thanks to their rich, reproducible and controllable magnetization dynamics. These dynamical nanodevices could transform artificial intelligence hardware, provided that they implement state-of-the art deep neural networks. However, there is today no scalable way to connect them in multilayers. Here we show that the flagship nano-components of spintronics, magnetic tunnel junctions, can be connected into multilayer neural networks where they implement both synapses and neurons thanks to their magnetization dynamics, and communicate by processing, transmitting and receiving radio frequency (RF) signals. We build a hardware spintronic neural network composed of nine magnetic tunnel junctions connected in two layers, and show that it natively classifies nonlinearly-separable RF inputs with an accuracy of 97.7%. Using physical simulations, we demonstrate that a large network of nanoscale junctions can achieve state-of the-art identification of drones from their RF transmissions, without digitization, and consuming only a few milliwatts, which is a gain of more than four orders of magnitude in power consumption compared to currently used techniques. This study lays the foundation for deep, dynamical, spintronic neural networks.

研究の動機と目的

• 磁気トンネル接合（MTJ）の内在する磁化ダイナミクスを活用して、スケーラブルでマルチレイヤーのスピントロニクスニューラルネットワークを実現すること。
• デジタル化を伴わせずにRF信号を直接処理するハードウェアプラットフォームを開発し、消費電力を低減すること。
• スピントロニクスナノコンポonentを用いて、非線形分離可能なRF入力をエンドツーエンドで分類すること。
• デジタル化を伴わず、最小限の消費電力で、ドローン識別といった実世界のタスクで最先端の性能を達成すること。

提案手法

• 磁気トンネル接合（MTJ）の豊富で制御可能な磁化ダイナミクスを活用し、ナノスケールのシナプスおよびニューロンとして用いる。
• RF信号がMTJを通じて送信・受信・処理され、従来の配線を用いずにレイヤー間通信を実現する。
• 入力RF信号が磁化状態を変調することで非線形計算を実行する2レイヤー構成のネットワークで、9つのMTJを用いる。
• 物理シミュレーションによりナノスケールMTJをモデル化し、ドローンのRF放射からの識別といった実世界のタスクにおける性能を評価する。
• アナログドメインでの完全な動作により、高消費電力なアナログ-デジタル変換を回避する。
• ネットワークのダイナミクスは、Landau-Lifshitz-Gilbert方程式に従い、RF入力の複雑な非線形変換を可能にする。

実験結果

リサーチクエスチョン

• RQ1 磁気トンネル接合は、マルチレイヤーのスピントロニクスニューラルネットワークにおけるシナプスおよびニューロンを実装できるか？
• RQ2 RF信号は、スピントロニクスニューラルネットワークのレイヤー間通信の主な媒体として機能できるか？
• RQ3 このようなネットワークは、高い精度と低消費電力で非線形分離可能なRF入力を分類できるか？
• RQ4 このアーキテクチャは、デジタル化を伴わず、実世界のタスク（例：ドローン識別）で最先端の性能を達成できるか？

主な発見

• 2レイヤー構成の9つのMTJを有するハードウェアプロトタイプは、非線形分離可能なRF入力の分類において97.7％の精度を達成した。
• システムはアナログドメインで完全に動作し、アナログ-デジタル変換の必要性がなく、消費電力を低減した。
• シミュレーションでは、ナノスケールMTJの多数を用いたネットワークが、RF放射からのドローン識別をサブミリワットの消費電力で実現できる。
• 消費電力は、現在のドローン識別技術の最先端手法と比較して、4桁以上も低減されている。
• 深層学習タスクに不可欠な複雑な非線形計算を、内在する磁化ダイナミクスを活用して実現した。