[논문 리뷰] S-TLLR: STDP-inspired Temporal Local Learning Rule for Spiking Neural Networks

Marco Paul E. Apolinario, Kaushik Roy|arXiv (Cornell University)|2023. 06. 27.

Advanced Memory and Neural ComputingEngineering인용 수 3

한 줄 요약

이 논문은 스파iking 신경망(SNNs)을 위한 새로운 삼요소 시간 국소 학습 규칙인 S-TLLR를 제안한다. 이 규칙은 스파이크 시점 의존성 가소성(STDP)에 영감을 받아 전·후시냅스 스파이크 간의 인과적 및 비인과적 시간 관계를 모두 통합한다. 이 방법은 BPTT 수준의 정확도를 이룸과 동시에 메모리 사용량을 5–50배 줄이고 MAC 연산 횟수를 1.3–6.6배 감소시켜 저전력 엣지 디바이스에서 효율적인 온라인 학습을 가능하게 한다.

ABSTRACT

Spiking Neural Networks (SNNs) are biologically plausible models that have been identified as potentially apt for deploying energy-efficient intelligence at the edge, particularly for sequential learning tasks. However, training of SNNs poses significant challenges due to the necessity for precise temporal and spatial credit assignment. Back-propagation through time (BPTT) algorithm, whilst the most widely used method for addressing these issues, incurs high computational cost due to its temporal dependency. In this work, we propose S-TLLR, a novel three-factor temporal local learning rule inspired by the Spike-Timing Dependent Plasticity (STDP) mechanism, aimed at training deep SNNs on event-based learning tasks. Furthermore, S-TLLR is designed to have low memory and time complexities, which are independent of the number of time steps, rendering it suitable for online learning on low-power edge devices. To demonstrate the scalability of our proposed method, we have conducted extensive evaluations on event-based datasets spanning a wide range of applications, such as image and gesture recognition, audio classification, and optical flow estimation. In all the experiments, S-TLLR achieved high accuracy, comparable to BPTT, with a reduction in memory between $5-50 imes$ and multiply-accumulate (MAC) operations between $1.3-6.6 imes$.

연구 동기 및 목표

• 순차적 학습 과제를 위한 깊은 SNN 학습에서 배치 역전파를 통한 시간 역행(BPTT)의 높은 계산 및 메모리 비용을 해결하기 위해.
• 자원 제약이 있는 엣지 디바이스에서 일정한 메모리 및 시간 복잡도를 유지하면서 효율적인 온라인 학습이 가능한 학습 규칙을 개발하기 위해.
• 표준 인과적 STDP를 초월해 비인과적 스파이크 시점 관계를 통합함으로써 학습 성능 향상의 잠재력을 탐색하기 위해.
• 이미지, 제스처, 음성, 광류 과제를 포함한 다양한 이벤트 기반 데이터셋에서 방법의 유효성을 검증하기 위해.
• 생물학적으로 타당한 학습 메커니즘이 BPTT 수준의 성능를 달성하면서도 계산 오버헤드를 크게 줄일 수 있음을 보여주기 위해.

제안 방법

• S-TLLR는 STDP에 영감을 받은 삼요소 학습 규칙으로, 전시냅스 스파이크 시점, 후시냅스 스파이크 시점, 그리고 오차 역전파 또는 무작위 피드백 연결으로부터 유도된 제3의 요소를 사용한다.
• 후시냅스 활성도를 계산하기 위해 보조 활성화 함수를 포함한 일반화된 매개변수화된 STDP 식을 도입하여 탄력적인 유전성 추적 계산을 가능하게 한다.
• 유전성 추적은 역전파(BP) 또는 직접 피드백 정렬(DFA)에서 유도된 학습 신호에 의해 조절되며, 확장 가능하고 국소적인 가중치 갱신을 가능하게 한다.
• 각 시냅스에 대해 인스턴턴스 기반의 유전성 추적을 계산하며, 전·후시냅스 스파이크 시점에 따라 영향을 받고, 매개변수화된 후시냅스 영향 요소를 통해 비인과적 항목을 포함한다.
• 학습 규칙은 시간 단계 수와 무관하게 일정한 시간 및 메모리 복잡도를 가지도록 설계되어 있어 온라인 및 실시간 학습에 적합하다.
• 학습 신호 생성을 위해 BP와 DFA를 모두 지원하여, 신호 정밀도가 성능에 미치는 영향을 분석할 수 있는 아블레이션 연구를 가능하게 한다.

실험 결과

연구 질문

• RQ1 비인과적 스파이크 시점 관계를 통합한 생물학적으로 영감을 받은 학습 규칙이 SNN 학습 성능 향상에 기여할 수 있는가?
• RQ2 S-TLLR는 메모리 및 계산 비용을 크게 줄이면서도 BPTT 수준의 정확도를 달성하는가?
• RQ3 유전성 추적에 비인과적 항목을 포함시킬 경우, 다양한 이벤트 기반 데이터셋에서 일반화 능력과 과제 성능에 어떤 영향을 미치는가?
• RQ4 다른 학습 신호 생성 방법(BP 대 DFA)은 S-TLLR에서 비인과적 항목의 효과성에 어떤 영향을 미치는가?
• RQ5 S-TLLR는 VGG9 및 복잡한 시공간 과제를 위한 RSNN과 같은 깊은 SNN 아키텍처로 효과적으로 확장될 수 있는가?

주요 결과

• S-TLLR는 DVS 제스처, NCALTECH101, SHD 등 평가된 모든 과제에서 BPTT 수준의 성능를 달성했으며, 최대 50배 메모리 사용량을 줄이고 MAC 연산 횟수를 6.6배 감소시켰다.
• 비인과적 항목(αpost = +1)을 포함시킬 경우 일반화 능력 향상과 더 높은 정확도를 달성했으며, 특히 오차 역전파를 사용할 경우 두드러진 성능 향상이 관찰되었다.
• 직접 피드백 정렬(DFA)을 사용할 경우 비인과적 항목의 이점은 미미한 편이었으며, 이는 정확한 오차 신호(BP)가 비인과적 관계를 최대로 활용하기 위해 필요하다는 것을 시사한다.
• LIF 누설 파rameter γ(0.5)보다 略히 높은 λpre 값을 사용할 경우 평균 정확도 향상이 관찰되어, 입력 추적에 최적의 감쇠 요소가 막대 전압 시간 상수와 다를 수 있음을 시사한다.
• 아블레이션 연구 결과, αpost 값이 0이 아닌 모든 경우가 αpost = 0을 능가했으며, 모든 데이터셋 및 모델에서 αpost = +1일 때 최고의 성능를 기록했다.
• SHD 데이터셋에서 S-TLLR(αpost = +1)는 RSNN를 사용해 78.23% 정확도(±1.84%)를 달성했으며, BPTT 성능에 매우 가까운 결과를 보였고, 일정한 복잡도를 유지했다.