[논문 리뷰] Event-based Backpropagation for Analog Neuromorphic Hardware

Christian Pehle, Luca Blessing외 3명|arXiv (Cornell University)|2023. 02. 13.

Advanced Memory and Neural Computing인용 수 4

한 줄 요약

이 논문은 아날로그 뉴로모픽 하드웨어를 위한 이벤트 기반 백프로파게이션 알고리즘인 EventProp를 소개한다. 이 알고리즘은 오직 스파이크 시간 관측값만을 사용하여 기울기를 추정하며, 서로 가교된 기울기 방법 대비 정보 효율성을 10배 향상시킨다. 이는 조밀한 상태 측정이 필요 없이 대규모 뉴로모픽 시스템에서 확장 가능하고 에너지 효율적인 디바이스 내 학습을 가능하게 한다.

ABSTRACT

Neuromorphic computing aims to incorporate lessons from studying biological nervous systems in the design of computer architectures. While existing approaches have successfully implemented aspects of those computational principles, such as sparse spike-based computation, event-based scalable learning has remained an elusive goal in large-scale systems. However, only then the potential energy-efficiency advantages of neuromorphic systems relative to other hardware architectures can be realized during learning. We present our progress implementing the EventProp algorithm using the example of the BrainScaleS-2 analog neuromorphic hardware. Previous gradient-based approaches to learning used "surrogate gradients" and dense sampling of observables or were limited by assumptions on the underlying dynamics and loss functions. In contrast, our approach only needs spike time observations from the system while being able to incorporate other system observables, such as membrane voltage measurements, in a principled way. This leads to a one-order-of-magnitude improvement in the information efficiency of the gradient estimate, which would directly translate to corresponding energy efficiency improvements in an optimized hardware implementation. We present the theoretical framework for estimating gradients and results verifying the correctness of the estimation, as well as results on a low-dimensional classification task using the BrainScaleS-2 system. Building on this work has the potential to enable scalable gradient estimation in large-scale neuromorphic hardware as a continuous measurement of the system state would be prohibitive and energy-inefficient in such instances. It also suggests the feasibility of a full on-device implementation of the algorithm that would enable scalable, energy-efficient, event-based learning in large-scale analog neuromorphic hardware.

연구 동기 및 목표

• 대규모 아날로그 뉴로모픽 하드웨어에서 확장 가능하고 에너지 효율적이며 디바이스 내 기반 기반 학습을 가능하게 하기 위해.
• 이전 기울기 추정 방법의 한계를 극복하기 위해, 뉴런 동역학의 조밀한 샘플링이 필요하거나 네트워크 동역학 또는 구조에 대한 제한적인 가정에 의존하는 방법을 피하기 위해.
• 스파이크 시간 관측값만으로도 뉴로모픽 하드웨어에서 정확한 기울기 추정이 가능함을 입증하기 위해.
• 실제 뉴로모픽 기반 소자에서의 하드웨어 변동성과 비이상적 특성에 대해 이 방법의 견고성을 검증하기 위해.
• 오직 이벤트 기반 데이터만을 사용하여 물리적 뉴로모픽 칩에서 완전한 인-더-루프 학습을 가능하게 하기 위해.

제안 방법

• EventProp 알고리즘은 뉴로모픽 하드웨어에서 발생하는 스파이크 시간 관측값만을 사용하여 기울기를 추정하며, 연속적인 상태 모니터링이 필요 없도록 한다.
• PyTorch를 사용한 소프트웨어 기반의 수반 동역학 모델을 활용하여 기록된 스파이크 이벤트와 선택적 막 전압 트레이스로부터 파라미터 기울기를 계산한다.
• 이 방법은 스파이크 유도 점프를 포함한 이산 오일러 적분을 사용하여 Leaky Integrate-and-Fire (LIF) 뉴런 동역학의 정방향 및 역방향 전파를 통합한다.
• 기울기는 수반 방법을 통해 계산되며, 분류 작업을 위한 손실 함수는 최대 시간 출력 전압 형식에 기반한다.
• 알고리즘은 시간 상수나 스파이크 행동에 대한 가정 없이도 임의의 네트워크 구조, 동역학, 손실 함수와 호환되도록 설계되어 있다.
• 하드웨어 인 더 루프 학습은 BrainScaleS-2 플랫폼에서 수행되며, 입력 스파이크를 전송하고 출력 스파이크 및 전압을 기록하며 기울기를 소프트웨어에서 추정한다.

실험 결과

연구 질문

• RQ1 조밀한 상태 측정 없이 오직 스파이크 시간 관측값만을 사용하여 아날로그 뉴로모픽 하드웨어에서 기울기 추정이 가능할 수 있는가?
• RQ2 EventProp 알고리즘이 서로 가교된 기울기 방법과 유사한 학습 성능을 달성하면서도 훨씬 더 높은 정보 효율성을 보일 수 있는가?
• RQ3 실제 뉴로모픽 기반 소자에서 하드웨어 변동성과 비이상적 특성에 대해 기울기 추정이 얼마나 견고한가?
• RQ4 이 알고리즘이 물리적 뉴로모픽 칩에 성공적으로 적용되어 종단 간 인-더-루프 학습이 가능한가?
• RQ5 하드웨어 환경에서 전통적인 서로 가교된 기울기 접근법 대비 EventProp의 정보 효율성 향상 정도는 얼마인가?

주요 결과

• EventProp 알고리즘은 시뮬레이션과 BrainScaleS-2 하드웨어 모두에서 Yin-Yang 데이터셋에서 서로 가교된 기울기 방법과 동일한 분류 성능을 달성한다.
• 이 방법은 필요한 데이터를 10분의 1로 줄여 정보 효율성에서 한 계급의 개선을 입증한다.
• 하드웨어 스파이크 시간 측정에서의 평균 기울기 추정치가 분석적 해법과 밀도적으로 일치하여 기반 소자 변동성에 대한 견고성을 확인한다.
• 알고리즘은 오직 이벤트 기반 관측값만을 사용하여 물리적 아날로그 뉴로모픽 하드웨어에서 인-더-루프 학습을 성공적으로 가능하게 한다.
• 연속적인 막 전압 기록이 필요 없이도 스파이크 시간만으로도 기울기 추정이 정확하게 유지됨을 확인한다.
• 이 방법은 이전 방법의 제한을 극복하기 위해 임의의 네트워크 구조, 동역학, 손실 함수와 호환된다.