[논문 리뷰] Spike-Timing-Dependent Back Propagation in Deep Spiking Neural Networks

Malu Zhang, Jiadong Wang외 6명|arXiv (Cornell University)|2020. 03. 26.

Advanced Memory and Neural Computing인용 수 20

한 줄 요약

이 논문은 깊이 있는 스파iking 신경망(DSNNs)을 위한 새로운 학습 알고리즘인 스파이크 타이밍 의존 백프로파게이션(STDBP)을 제안한다. 이 알고리즘은 스파이크 타이밍을 통한 시간 코드화를 활용하여 효율적이고 이벤트 기반의 백프로파게이션을 가능하게 한다. 방법은 정류된 선형 후시냅틱 전위(ReL-PSP) 함수를 사용하며, 스파이크 타이밍 기반 SNN 학습에서 최고 성능을 달성하여 스파이크 타이밍이 시냅스 유연성과 의사결정 과정에서 핵심적인 역할을 한다는 것을 입증한다.

ABSTRACT

The success of Deep Neural Networks (DNNs) can be attributed to its deep structure, that learns invariant feature representation at multiple levels of abstraction. Brain-inspired Spiking Neural Networks (SNNs) use spatiotemporal spike patterns to encode and transmit information, which is biologically realistic, and suitable for ultra-low-power event-driven neuromorphic implementation. Therefore, Deep Spiking Neural Networks (DSNNs) represent a promising direction in artificial intelligence, with the potential to benefit from the best of both worlds. However, the training of DSNNs is challenging because standard error back-propagation (BP) algorithms are not directly applicable. In this paper, we first establish an understanding of why error back-propagation does not work well in DSNNs. To address this problem, we propose a simple yet efficient Rectified Linear Postsynaptic Potential function (ReL-PSP) for spiking neurons and propose a Spike-Timing-Dependent Back-Propagation (STDBP) learning algorithm for DSNNs. In the proposed learning algorithm, the timing of individual spikes is used to carry information (temporal coding), and learning (back-propagation) is performed based on spike timing in an event-driven manner. Experimental results demonstrate that the proposed learning algorithm achieves state-of-the-art performance in spike time based learning algorithms of SNNs. This work investigates the contribution of dynamics in spike timing to information encoding, synaptic plasticity and decision making, providing a new perspective to design of future DSNNs.

연구 동기 및 목표

• 표준 백프로파게이션과 스파iking 뉴런 다이내믹스 간의 부호화 불일치로 인해 깊이 있는 스파iking 신경망(DSNNs)을 훈련하는 데 발생하는 과제를 해결하기 위해.
• 기존의 오차 백프로파게이션 알고리즘이 스파이크 이벤트의 비미분 가능성으로 인해 SNNs에서 실패하는 이유를 이해하기 위해.
• 스파이크 타이밍을 정보 전달 수단으로 사용하여, DSNNs에서 백프로파게이션을 가능하게 하는 효율적이고 생물학적으로 타당한 학습 알고리즘을 개발하기 위해.
• 스파이크 타이밍 다이내믹스가 DSNNs의 정보 인코딩, 시냅스 유연성, 의사결정 과정에 중요한 기여를 한다는 것을 입증하기 위해.

제안 방법

• 스파이킹 뉴런의 후시냅스 전위를 모델링하기 위해 정류된 선형 후시냅스 전위(ReL-PSP) 함수를 제안하여 백프로파게이션을 위한 미분 가능한 계산을 가능하게 한다.
• 개별 스파이크의 정밀한 타이밍을 사용하여 이벤트 기반 방식으로 기울기를 계산하는 스파이크 타이밍 의존 백프로파게이션(STDBP) 알고리즘을 설계한다.
• 지속적인 활성화 값 기반의 가중치 갱신을 스파이크 타이밍 기반으로 대체함으로써, 시간 코드화의 정밀도를 유지한다.
• 스파이크 이벤트의 비미분 가능성에 도전하기 위해 스파이크 함수를 위한 미분 가능한 근사치를 도입한다.
• 정보를 스파이크의 정밀한 타이밍에 인코딩하는 시간 코드화를 적용하여 생물학적 타당성과 저전력 뉴로모픽 컴퓨팅과의 일치를 도모한다.
• 스파이크 타이밍을 주요 정보 전달 수단으로 사용하여 시간에 따라 변화하는 스파이크 패턴을 통해 오차 신호를 전파함으로써, 종단 간 훈련을 가능하게 한다.

실험 결과

연구 질문

• RQ1 왜 표준 백프로파게이션은 스파이크 이벤트의 비미분 가능성으로 인해 스파이킹 신경망에서 실패하는가?
• RQ2 스파이크 타이밍을 어떻게 효과적으로 활용하여 정보를 운반하고 DSNNs에서 기울기 기반 학습을 가능하게 할 수 있는가?
• RQ3 스파이크 타이밍 다이내믹스가 깊이 있는 스파이킹 네트워크에서 시냅스 유연성과 의사결정 과정에 어떤 영향을 미치는가?
• RQ4 생물학적으로 타당하고 이벤트 기반의 백프로파게이션 알고리즘이 시간 코드화를 사용하여 SNNs에서 최고 수준의 성능을 달성할 수 있는가?
• RQ5 ReL-PSP 함수는 기존의 PSP 모델 대비 DSNNs에서 훈련 안정성과 성능을 어떻게 향상시키는가?

주요 결과

• 제안된 STDBP 알고리즘은 깊이 있는 스파이킹 신경망에서 스파이크 타이밍 기반 학습 알고리즘 중 최고 성능을 달성한다.
• 스파이크 타이밍을 정보 인코딩 및 기울기 계산 수단으로 사용함으로써, 표준 BP가 실패하는 SNNs에서도 효과적인 백프로파게이션을 가능하게 한다.
• ReL-PSP 함수는 후시냅스 전위의 미분 가능하고 안정적인 근사치를 제공하여 신뢰할 수 있는 오차 신호 전파를 가능하게 한다.
• 알고리즘이 시간 코드화가 정보 표현을 향상시키는 데 기여할 뿐 아니라 깊이 있는 아키텍처에서 강력한 학습을 지원한다는 것을 입증한다.
• 실험 결과는 스파이크 타이밍 다이내믹스가 DSNNs의 시냅스 유연성과 의사결정 과정에 중요한 기여를 한다는 것을 확인한다.
• STDBP의 이벤트 기반 특성은 초저전력 뉴로모픽 하드웨어 구현에 적합하여 생물학적이고 에너지 효율적인 컴퓨팅 목표와 부합한다.