[논문 리뷰] Developing All-Skyrmion Spiking Neural Network

Zhezhi He, Deliang Fan|arXiv (Cornell University)|2017. 05. 08.

Advanced Memory and Neural Computing참고 문헌 11인용 수 7

한 줄 요약

이 논문은 전하-스핀 변환을 필요로 하지 않고, 위상적으로 안정적인 자기 스카이르미온을 정보 운반체이자 계산 요소로 사용하는 All-Skyrmion Spiking Neural Network(AS-SNN)을 제안한다. 스파ike 트레인을 스카이르미온 트레인으로 인코딩하고 나노트랙에서의 스카이르미온 동역학을 활용하여, MNIST에서 약 1 fJ의 스파이크당 에너지로 87.1%의 추론 정확도를 달성하였으며, 이는 CMOS 기반 시스템(예: IBM TrueNorth)보다 약 3개 정도의 에너지 차이를 보인다.

ABSTRACT

In this work, we have proposed a revolutionary neuromorphic computing methodology to implement All-Skyrmion Spiking Neural Network (AS-SNN). Such proposed methodology is based on our finding that skyrmion is a topological stable spin texture and its spatiotemporal motion along the magnetic nano-track intuitively interprets the pulse signal transmission between two interconnected neurons. In such design, spike train in SNN could be encoded as particle-like skyrmion train and further processed by the proposed skyrmion-synapse and skyrmion-neuron within the same magnetic nano-track to generate output skyrmion as post-spike. Then, both pre-neuron spikes and post-neuron spikes are encoded as particle-like skyrmions without conversion between charge and spin signals, which fundamentally differentiates our proposed design from other hybrid Spin-CMOS designs. The system level simulation shows 87.1% inference accuracy for handwritten digit recognition task, while the energy dissipation is ~1 fJ/per spike which is 3 orders smaller in comparison with CMOS based IBM TrueNorth system.

연구 동기 및 목표

• 인지 계산 작업에서 전통적인 CMOS 기반 바나흐-뉴먼 아키텍처의 에너지 비효율성과 속도 제약를 해결한다.
• 하이브리드 스피너-CMOS 뉴로모픽 시스템에서 전하와 스핀 간의 신호 변환에 따른 에너지 오버헤드를 극복한다.
• 신호 전송과 계산이 모두 스카이르미온에 의해 매개되는 완전히 스핀 기반의 뉴로모픽 플랫폼을 개발한다.
• 스카이르미온의 운동과 상호작용을 통해 신경 세포의 동역학을 모방함으로써 높은 에너지 효율성과 생물학적 타당성을 확보한다.
• 시스템 수준의 시뮬레이션을 통해 MNIST 데이터셋에서 AS-SNN 아키텍처의 실현 가능성과 성능을 입증한다.

제안 방법

• 스파이크 트레인을 자기 나노트랙을 따라 전파되는 입자 유사 스카이르미온의 순서로 인코딩한다.
• 이중 분지형 나노트랙 기하구조에서 전압 제어 자기 이방성(VCM)을 사용하여 이진 합성 경량을 실현하고, 가중치 값('0' 또는 '1')에 따라 스카이르미온을 라우팅한다.
• 도메인 월 쌍(DWP) 동역학을 이용한 스카이르미온 기반 적립-화염 신경세포를 설계한다: 스카이르미온이 한계점 영역에 축적되어 임계값에 도달할 때까지 축적된다.
• 이웃한 나노트랙 간의 자기 결합을 이용하여 임계값을 초과할 경우 출력 경로에서 새로운 DWP를 형성하고, 이를 출력 스카이르미온으로 변환한다.
• 전파 중 Y-분지 기하구조에서의 스카이르미온 복제를 통해 이벤트 기반 뉴런 연결성을 지원하는 에너지 효율적인 팬아웃을 실현한다.
• 화염 후 복귀 기간 동안 스핀 극성기를 사용하여 DWP 재형성함으로써 뉴런을 초기화한다.

실험 결과

연구 질문

• RQ1 전하-스핀 변환 없이 스카이르미온을 스파이크 신경망에서 정보 운반체이자 계산 단위로 사용할 수 있는가?
• RQ2 스카이르미온 동역학을 어떻게 활용하여 생물학적으로 유사한 적립-화염 신경세포 행동을 실현할 수 있는가?
• RQ3 기존의 CMOS 기반 구현과 비교해 볼 때, 완전히 스카이르미온 기반의 SNN이 달성할 수 있는 추론 정확도와 에너지 효율성은 어느 정도인가?
• RQ4 VCMA 제어 장벽을 통한 스카이르미온 라우팅을 통해 이진 합성 경량을 효과적으로 실현할 수 있는가?
• RQ5 전하와 스핀 간의 신호 변환 부재가 시스템 수준의 에너지 효율성과 확장성에 어떤 영향을 미치는가?

주요 결과

• All-Skyrmion Spiking Neural Network(AS-SNN)은 MNIST 수기 숫자 인식 작업에서 87.1%의 추론 정확도를 달성하였다.
• AS-SNN의 에너지 소산은 약 1 fJ의 스파이크당 에너지로, 이는 IBM TrueNorth CMOS 기반 시스템보다 3개 이상의 주기 감소를 의미한다.
• 시스템은 스카이르미온 동역학—특히 DWP 탈착과 DWP에서 스카이르미온로의 변환—이 적립-화염 신경세포 행동을 효과적으로 모방할 수 있음을 보였다.
• Y-분지형 나노트랙에서 VCMA 유도 자기 이방성 장벽을 사용하여 이진 합성 경량이 성공적으로 실현되었으며, 스카이르미온의 선택적 라우팅이 가능했다.
• Y-분지에서의 스카이르미온 복제를 통해 에너지 효율적인 팬아웃이 실현되었으며, 복제 비용 없이도 대규모 인터커넥티비티를 지원할 수 있었다.
• AS-SNN 아키텍처에서 전하-스핀 변환 부재는 하이브리드 스피너-CMOS 설계 대비 에너지 오버헤드를 근본적으로 감소시키고 생물학적 타당성을 향상시켰다.