[논문 리뷰] Gradient-descent hardware-aware training and deployment for mixed-signal Neuromorphic processors

Uğurcan Çakal, İlkay Ulusoy외 3명|arXiv (Cornell University)|2023. 03. 14.

Advanced Memory and Neural Computing참고 문헌 18인용 수 1

한 줄 요약

이 논문은 혼합신호 뉴로모픽 프로세서, 특히 DYNAP-SE2 칩을 대상으로 하드웨어 인지적 경사 하강법 기반의 훈련 및 배포 파이프라인을 제안한다. Differentiable 시뮬레이터(DynapSim)와 JAX 기반 최적화, 비지도 가중치 양자화를 통합함으로써, 종합적인 훈련과 신뢰할 수 있는 배포를 분 단위 이내로 가능하게 하였으며, 컴파일되지 않은 훈련 대비 3700배 빠른 속도 향상을 달성하였다. 이는 장치 불일치 및 양자화와 같은 하드웨어 비이상성 하에서도 정확도를 유지한다.

ABSTRACT

Mixed-signal neuromorphic processors provide extremely low-power operation for edge inference workloads, taking advantage of sparse asynchronous computation within Spiking Neural Networks (SNNs). However, deploying robust applications to these devices is complicated by limited controllability over analog hardware parameters, as well as unintended parameter and dynamical variations of analog circuits due to fabrication non-idealities. Here we demonstrate a novel methodology for ofDine training and deployment of spiking neural networks (SNNs) to the mixed-signal neuromorphic processor DYNAP-SE2. The methodology utilizes gradient-based training using a differentiable simulation of the mixed-signal device, coupled with an unsupervised weight quantization method to optimize the network's parameters. Parameter noise injection during training provides robustness to the effects of quantization and device mismatch, making the method a promising candidate for real-world applications under hardware constraints and non-idealities. This work extends Rockpool, an open-source deep-learning library for SNNs, with support for accurate simulation of mixed-signal SNN dynamics. Our approach simplifies the development and deployment process for the neuromorphic community, making mixed-signal neuromorphic processors more accessible to researchers and developers.

연구 동기 및 목표

• 혼합신호 뉴로모픽 하드웨어인 DYNAP-SE2와 같이 매개변수 변동성과 제한된 설정 가능성으로 인해 어려움을 겪는 스파iking 신경망(SNNs)의 배포 문제를 해결하기 위해.
• 기존에 뉴로모픽 장치 배포에 소요되던 수개월에 이르는 수동 캘리브레이션 과정을 단축하기 위해.
• 실제 하드웨어 제약 조건인 장치 불일치 및 양자화와 같은 요건 하에서도 확장 가능하고 자동화되며 강건한 SNN 훈련 및 배포를 가능하게 하기 위해.
• 혼합신호 SNN 동역학을 정확하게 모의하는 기능적, 하드웨어 정확도를 갖춘 시뮬레이터(DynapSim)를 Rockpool 라이브러리에 추가하기 위해.
• 노이즈 주입과 양자화를 통한 기울기 기반 훈련이 실제 DYNAP-SE2 하드웨어로 일반화되는 모델을 도출할 수 있는지 입증하기 위해.

제안 방법

• DYNAP-SE2의 혼합신호 동역학을 다이내믹하게 시뮬레이션하는 데 사용되는 DynapSim을 활용하여, 시간에 따라 변화하는 아날로그 회로 전달 함수를 정확하게 모의한다.
• 스파iking 뉴런을 통한 역전파를 가능하게 하기 위해 서로서티드 기울기(surrogate gradients)를 사용함으로써, 비미분 가능한 스파이크 함수에도 불구하고 SNN 매개변수의 기울기 기반 최적화를 가능하게 한다.
• JAX와 Just-In-Time(JIT) 컴파일을 통합하여 최적화를 가속화함으로써, 훈련 시간을 수주에서 수분으로 단축시킨다.
• 수동 조정 없이도 하드웨어 호환 설정으로 훈련된 네트워크 가중치를 매핑하기 위해 비지도 가중치 양자화 방법을 사용한다.
• 장치 불일치 및 양자화 영향에 대한 강건성을 향상시키기 위해 훈련 중에 매개변수 노이즈를 주입한다.
• 최종 모델은 자동으로 하드웨어 구성으로 변환되어 DYNAP-SE2 칩에 추론을 위해 배포된다.

실험 결과

연구 질문

• RQ1 복잡한 아날로그 하드웨어 제약 조건을 가진 혼합신호 뉴로모픽 프로세서에 기울기 기반 훈련을 효과적으로 적용할 수 있는가?
• RQ2 SNN 훈련 중에 장치 불일치 및 양자화와 같은 하드웨어 비이상성을 어떻게 완화할 수 있는가? 이는 강건한 배포를 보장하기 위함이다.
• RQ3 혼합신호 SNN 동역학의 differentiable 시뮬레이션은 정확하고 효율적인 종단 간 훈련을 얼마나 잘 가능하게 하는가?
• RQ4 JAX-JIT 컴파일은 표준 하드웨어에서 복잡한 뉴런 모델에 대해 SNN 훈련을 상당히 가속화할 수 있는가?
• RQ5 비지도 양자화와 노이즈 주입을 조합하면 실제 뉴로모픽 하드웨어로 일반화되는 모델을 도출할 수 있는가?

주요 결과

• JAX-JIT 컴파일을 활용한 훈련 파이프라인은 단일 머신에서 훈련 시간을 15일에서 6.5분으로 단축시켜 3700배의 속도 향상을 달성하였다.
• 모의, 양자화, 하드웨어 기반 추론의 출력 피어링 빈도(FRR)는 각각 1.1, 1.2, 1.9로 매우 일치하여 강력한 일반화 능력을 보였다.
• 장치 불일치 및 양자화 조건 하에서도 네트워크는 강건한 성능을 유지하였으며, 클래스 0과 1의 출력 뉴런 피어링 빈도가 모의 결과와 하드웨어 결과 간에 최소한의 편차를 보였다.
• DYNAP-SE2 칩에 배포된 후 테스트 세트에서 100%의 분류 정확도를 달성하여 신뢰할 수 있는 추론 성능을 입증하였다.
• 비지도 양자화 방법은 수동 캘리브레이션의 필요성을 제거하여 SNN의 자동화된 하드웨어 배포를 가능하게 하였다.
• DynapSim 시뮬레이터는 DYNAP-SE2의 동역학을 정확하게 재현하여, 하드웨어 배포 이전에 신뢰할 수 있는 오프라인 훈련 및 검증을 가능하게 하였다.