[논문 리뷰] Physical reservoir computing built by spintronic devices for temporal information processing

Wencong Jiang, Lina Chen외 5명|arXiv (Cornell University)|2019. 01. 23.

Advanced Memory and Neural Computing참고 문헌 36인용 수 15

한 줄 요약

이 논문은 스피너트로닉스 장치—특히 단일 자기 스카이크림 멤리스터(MSM)와 24개의 스핀터르 나노진동자(STNOs)—를 사용한 물리적 리저보아르 컴퓨팅(RC) 시스템을 제안하여 초고속·고정확도의 시간 정보 처리를 가능하게 한다. MSM 기반 RC는 손글씨 숫자 인식에서 87.6%의 정확도를 달성하고 이온 기반 멤리스터 시스템보다 1000배 이상 빠른 속도로 데이터를 처리한다. 반면 STNO 기반 RC는 NARMA10과 같은 복잡한 비선형 작업을 낮은 오차(NRMSE ≈ 0.123)로 성공적으로 해결하여 스피너트로닉스 장치가 뇌 기반 뉴로모픽 컴퓨팅에 적합함을 입증한다.

ABSTRACT

Spintronic nanodevices have ultrafast nonlinear dynamic and recurrence behaviors on a nanosecond scale that promises to enable spintronic reservoir computing (RC) system. Here two physical RC systems based on a single magnetic skyrmion memristor (MSM) and 24 spin-torque nano-oscillators (STNOs) were proposed and modeled to process image classification task and nonlinear dynamic system prediction, respectively. Based on our micromagnetic simulation results on the nonlinear responses of MSM and STNO with current pulses stimulation, the handwritten digits recognition task domesticates that an RC system using one single MSM has the outstanding performance on image classification. In addition, the complex unknown nonlinear dynamic problems can also be well solved by a physical RC system consisted of 24 STNOs confirmed in a second-order nonlinear dynamic system and NARMA10 tasks. The capability of both high accuracy and fast information processing promises to enable one type of brain-like chip based on spintronics for various artificial intelligence tasks.

연구 동기 및 목표

• 스핀트로닉스 나노소자를 이용한 물리적 리저보아르 컴퓨팅 시스템을 개발하여 내재된 비선형 역학과 단기 기억 기능을 지닌 효율적인 뉴로모픽 컴퓨팅을 실현한다.
• 자기 스카이크림 멤리스터(MSM)와 스핀터르 나노진동자(STNOs)와 같은 스피너트로닉스 장치가 내부 가중치 학습 없이 물리적 리저보아르로 기능할 수 있음을 입증한다.
• 이러한 물리적 RC 시스템의 성능을 이미지 분류 및 비선형 동역학 시스템 예측과 같은 벤치마크 시간 처리 작업에서 평가한다.
• 미세자기 시뮬레이션을 활용해 스피너트로닉스 장치의 리저보아르 역학을 모델링하고 AI 워크로드에 대한 유효성을 검증할 수 있음을 확립한다.
• 정확도, 속도, 에너지 효율성 측면에서 이전의 인공 리저보아르 시스템과 비교하여 스피너트로닉스 RC 시스템의 성능을 평가한다.

제안 방법

• 전류 펄스 자극 하에서 자기 스카이크림 멤리스터(MSM)의 비선형 역학을 모델링하기 위해 랑두-리프시츠-기르쉬 방정식(LLG)을 사용한 미세자기 시뮬레이션을 수행하였다.
• 24개의 STNO가 전류 펄스에 반응하는 방식을 시뮬레이션하여 자화 진동 및 저항도 변화(MR) 출력을 측정하고 리저보아르 계산에 활용하였다.
• 고정된 무작위 연결 리저보아르를 사용하였으며, 유일하게 출력층만 학습된 절차를 따르며 표준 RC 원칙을 준수하였다: 선형 회귀를 통해 유일하게 출력 가중치만 학습되었다.
• 리저보아르 출력을 활용해 벤치마크 작업을 해결하였다: MNIST 손글씨 숫자 분류, 2차 비선형 동역학 시스템 예측, NARMA10 시계열 예측.
• 동적 작업의 경우 정규화된 평균 제곱오차(NMSE)를, 이미지 인식의 경우 분류 정확도를 사용하여 성능을 평가하였다.
• 800단계 시간 시리즈 데이터로 학습한 후 미학습 입력 시퀀스에 대한 일반화 능력을 테스트하여 시스템의 강건성을 검증하였다.

실험 결과

연구 질문

• RQ1 단일 자기 스카이크림 멤리스터(MSM)가 이미지 분류 작업에 효과적인 물리적 리저보아르로 기능할 수 있는가?
• RQ2 24개의 스핀터르 나노진동자(STNOs)로 구성된 앙상블이 2차 시스템 및 NARMA10 작업과 같은 복잡한 비선형 역학 문제를 해결할 수 있는가?
• RQ3 정확도 및 처리 속도 측면에서 스피너트로닉스 RC 시스템의 성능이 이전의 인공 리저보아르 시스템과 어떻게 비교되는가?
• RQ4 스피너트로닉스 장치의 장치 수준의 비선형 역학 및 단기 기억 기능이 효과적인 시간 정보 처리를 얼마나 잘 가능하게 하는가?
• RQ5 고정된 리저보아르 가중치로 인해 장치 변동성과 결함에 대해 물리적 RC 시스템이 강건한가?

주요 결과

• MSM 기반 RC 시스템은 MNIST 손글씨 숫자 분류에서 87.6%의 정확도를 달성하였으며, 88개의 산화물 메탈 멤리스터를 사용한 리저보아르와 유사한 성능을 보였다.
• MSM 기반 RC 시스템은 나노초 수준의 자화 역학에 기인해 이온 기반 멤리스터 시스템의 밀리초 수준의 이동보다 1000배 이상 빠른 속도로 정보를 처리하였다.
• STNO 기반 RC 시스템은 2차 비선형 동역학 시스템의 출력을 NMSE 1.31×10⁻³로 정확하게 예측하여 복잡한 동역학을 모델링하는 데 높은 정확도를 입증하였다.
• STNO 기반 RC 시스템은 NARMA10 작업에서 테스트 단계에서 NRMSE 0.123을 달성하여 400노드의 디지털 리저보아르(NRMSE ≈ 0.15)를 능가하는 성능을 보였다.
• 고정된 리저보아르 가중치로 인해 장치 변동성에 강건했으며, 재학습이 필요로 하지 않으며 새로운 입력 시퀀스에 대해 잘 일반화되었다.
• LLG 방정식의 미세자기 시뮬레이션은 스피너트로닉스 장치의 비선형 반응을 정확히 캡처하여 물리적 리저보아르 설계에 활용할 수 있음을 검증하였다.