[논문 리뷰] EventProp: Backpropagation for Exact Gradients in Spiking Neural Networks

Timo C. Wunderlich, Christian Pehle|arXiv (Cornell University)|2020. 09. 17.

Advanced Memory and Neural Computing참고 문헌 55인용 수 8

한 줄 요약

EventProp는 최적 제어 이론을 사용하여 스파iking 신경망의 스파이크 불연속성에 걸쳐 정확한 기울기를 역전파하는 백프로파게이션 알고리즘을 제안한다. 이는 스파이크 시점과 막전위에 대한 손실 함수의 정확한 기울기를 계산하며, 스파이크 불연속성에 걸쳐 오차를 역전파함으로써 정확한 기울기를 유지한다. 이는 스파이크 시점에서만 상태를 저장함으로써 최소한의 메모리 사용으로도 순환, 피드포워드, 컨볼루션 네트워크 아키텍처를 포함한 임의의 네트워크 아키텍처를 훈련할 수 있게 한다.

ABSTRACT

We derive the backpropagation algorithm for spiking neural networks composed of leaky integrate-and-fire neurons operating in continuous time. This algorithm, EventProp, computes the exact gradient of an arbitrary loss function of spike times and membrane potentials by backpropagating errors in time. For the first time, by leveraging methods from optimal control theory, we are able to backpropagate errors through spike discontinuities without approximations or smoothing operations. As errors are backpropagated in an event-based manner (at spike times), EventProp requires storing state variables only at these times, providing favorable memory requirements. EventProp can be applied to spiking networks with arbitrary connectivity, including recurrent, convolutional and deep feed-forward architectures. While we consider the leaky integrate-and-fire neuron model in this work, our methodology to derive the gradient can be applied to other spiking neuron models. We demonstrate learning using gradients computed via EventProp in a deep spiking network using an event-based simulator and a non-linearly separable dataset encoded using spike time latencies. Our work supports the rigorous study of gradient-based methods to train spiking neural networks while providing insights toward the development of learning algorithms in neuromorphic hardware.

연구 동기 및 목표

• 스파이크 불연속성에 대해 근사치나 스무딩 없이 정확한 기울기를 처리하는 엄밀한 백프로파게이션 방법을 개발하는 것.
• 연속 시간 스파이킹 네트워크에서 스파이크 시점과 막전위의 임의의 손실 함수에 대한 기울기 계산을 가능하게 하는 것.
• 지속적으로가 아니라 스파이크 시점에서만 상태를 저장함으로써 메모리 사용을 줄이는 것.
• 깊이, 순환, 컨볼루션 스파이킹 네트워크와 같은 복잡한 아키텍처의 훈련을 정확한 기울기를 사용하여 지원하는 것.
• 뉴모르픽 컴퓨팅에 적용 가능한 스파이킹 신경망에서 기울기 기반 학습을 위한 이론적 기반을 마련하는 것.

제안 방법

• 최적 제어 이론을 활용하여 연속 시간 스파이킹 네트워크에서 스파이크 불연속성에 걸친 정확한 기울기를 유도하는 것.
• 누설 적분-화이어 뉴런의 양변 시스템을 유도하여 시간 방향으로 오차를 역전파함으로써 정확성을 유지하는 것.
• 이벤트 기반 백프로파게이션을 적용하여 오차 신호를 스파이크 시점에서만 전파함으로써 메모리 오버헤드를 줄이는 것.
• 양변 방법을 사용하여 시냅스 가중치와 뉴런 파라미터에 대한 손실의 기울기를 계산하는 것.
• 순환 및 깊이 있는 아키텍처를 포함한 임의의 네트워크 연결성으로 이 프레임워크를 확장하는 것.
• 스파이크 시점 지연을 통해 인코딩된 비선형적으로 분리 불가능한 데이터셋을 사용한 이벤트 기반 시뮬레이터를 통해 실현 가능성을 입증하는 것.

실험 결과

연구 질문

• RQ1 연속 시간 스파이킹 신경망에서 근사치나 스무딩 없이 스파이크 불연속성에 걸쳐 정확한 기울기를 계산할 수 있는가?
• RQ2 스태이트를 스파이크 시점에서만 저장함으로써 백프로파게이션을 이벤트 기반 방식으로 어떻게 적응시킬 수 있는가?
• RQ3 최적 제어 원리를 사용하여 스파이킹 네트워크에서 정확한 기울기를 계산하는 데 필요한 이론적 기반은 무엇인가?
• RQ4 제안된 방법이 복잡하고 비선형적으로 분리 불가능한 작업에서 깊이, 순환, 컨볼루션 스파이킹 네트워크를 정확한 기울기를 사용해 훈련시킬 수 있는가?
• RQ5 기존의 스파이킹 네트워크 백프로파게이션과 비교해 이벤트 기반 기울기 계산의 메모리 효율성은 어떠한가?

주요 결과

• EventProp는 연속 시간 스파이킹 신경망에서 스파이크 시점과 막전위의 임의의 손실 함수에 대해 정확한 기울기를 계산한다.
• 이 방법은 근사치나 스무딩 없이 최적 제어 이론을 사용하여 스파이크 불연속성에 걸쳐 역전파를 수행함으로써 정확성을 유지한다.
• 스파이크 시점에서만 상태 변수를 저장함으로써 메모리 사용이 크게 감소하여 확장 가능한 훈련을 가능하게 한다.
• EventProp는 깊이, 순환, 컨볼루션 스파이킹 네트워크의 정확한 기울기를 사용한 훈련을 지원한다.
• 스파이크 시점 지연을 통해 인코딩된 비선형적으로 분리 불가능한 데이터셋을 사용하여 이 방법이 복잡한 학습 작업에서 효과적임을 입증하였다.
• 이 프레임워크는 누설 적분-화이어 모델을 초월하여 다른 스파이킹 뉴런 모델에도 일반화 가능하다.