[논문 리뷰] VOWEL: A Local Online Learning Rule for Recurrent Networks of Probabilistic Spiking Winner-Take-All Circuits

Hyeryung Jang, Nicolas Skatchkovsky외 1명|arXiv (Cornell University)|2020. 04. 20.

Advanced Memory and Neural Computing참고 문헌 48인용 수 8

한 줄 요약

이 논문은 비가역적 임계값 함수와 순환 구조에서의 책임 할당 문제를 해결하기 위해, 지역적이고 온라인 학습 규칙인 VOWEL을 제안한다. 이는 확률적 스파iking 워너테이크올(WTA) 회로로 구성된 순환 신경망을 효율적으로 학습시킬 수 있도록 하며, 오직 국소적인 전·후시냅스 정보와 전역적 보상 신호만을 사용한다. 방법론은 변분 추론, 제어 변수(control variates), 정규화를 활용하여 기존 최고 수준의 SNN 학습 방법을 능가한다. 특히 자원이 제한된 환경에서 시공간 패턴과 다가치 스파이크 정보를 효과적으로 포착함으로써 뛰어난 성능을 발휘한다.

ABSTRACT

Networks of spiking neurons and Winner-Take-All spiking circuits (WTA-SNNs) can detect information encoded in spatio-temporal multi-valued events. These are described by the timing of events of interest, e.g., clicks, as well as by categorical numerical values assigned to each event, e.g., like or dislike. Other use cases include object recognition from data collected by neuromorphic cameras, which produce, for each pixel, signed bits at the times of sufficiently large brightness variations. Existing schemes for training WTA-SNNs are limited to rate-encoding solutions, and are hence able to detect only spatial patterns. Developing more general training algorithms for arbitrary WTA-SNNs inherits the challenges of training (binary) Spiking Neural Networks (SNNs). These amount, most notably, to the non-differentiability of threshold functions, to the recurrent behavior of spiking neural models, and to the difficulty of implementing backpropagation in neuromorphic hardware. In this paper, we develop a variational online local training rule for WTA-SNNs, referred to as VOWEL, that leverages only local pre- and post-synaptic information for visible circuits, and an additional common reward signal for hidden circuits. The method is based on probabilistic generalized linear neural models, control variates, and variational regularization. Experimental results on real-world neuromorphic datasets with multi-valued events demonstrate the advantages of WTA-SNNs over conventional binary SNNs trained with state-of-the-art methods, especially in the presence of limited computing resources.

연구 동기 및 목표

• 비가역적 임계값 함수와 순환 구조에서의 책임 할당 문제를 해결하기 위해, 비가역적이고 비차별 가능한 임계값 함수를 갖는 순환 확률적 스파이킹 신경망(SNN)을 학습하는 데 도전한다.
• 백프로파게이션을 피하고 뉴모르픽 하드웨어 제약 조건과 호환되는 지역적이고 온라인 학습 규칙을 개발한다.
• 뉴로모르픽 카메라에서 유래한 다가치 시공간 이벤트를 처리하는 WTA-SNN에서 효과적인 학습을 가능하게 한다.
• 제한된 뉴런 수와 굵은 샘플링 주기로 인해 기존 SNN 학습 방법의 성능이 떨어지는 자원이 제한된 환경에서의 성능 향상을 도모한다.
• 임의의 네트워크 구조, 특히 순환 및 깊은 아키텍처를 포함한 일반적이고 확장 가능한 학습 프레임워크를 제공한다.

제안 방법

• VOWEL은 관측된 스파이크 패턴의 로그우도에 대한 하한을 최대화함으로써 변분 추론에서 유도된다.
• 스파이크 뉴런 행동을 표현하기 위해 확률적 일반선형 모델을 사용하여 비가역적 임계값 함수의 미분 가능 근사치를 가능하게 한다.
• 온라인 학습에서 기울기 분산을 줄이기 위해 제어 변수를 활용하여 샘플 효율성을 향상시킨다.
• KL 기반 정규화를 도입하여 학습을 안정화시키고 과적합을 방지한다.
• 학습 규칙은 완전히 국소적이다: 시각화된 회로 가중치는 전·후시냅스 스파이크 활동만을 사용하여 업데이트되며, 은닉 회로 가중치는 공통의 전역 보상 신호를 사용한다.
• 프레임워크는 순환 및 깊은 아키텍처를 포함한 임의의 네트워크 구조를 지원하며, 자기 순환과 방향성 피드백을 포함한다.

실험 결과

연구 질문

• RQ1 순환 WTA-SNN에 대해 백프로파게이션을 피하고 뉴모르픽 하드웨어와 호환되는 지역적이고 온라인 학습 규칙을 개발할 수 있는가?
• RQ2 비율 인코딩에 의존하지 않고도 시공간 패턴과 다가치 스파이크 정보를 효과적으로 학습할 수 있는가?
• RQ3 자원 제약 조건 하에서 VOWEL의 성능이 최고 수준의 SNN 학습 방법과 비교해 어떻게 되는가?
• RQ4 변분 추론과 제어 변수의 사용이 온라인 SNN 학습에서 샘플 효율성과 안정성을 향상시키는가?
• RQ5 이 방법은 다양한 네트워크 구조로 일반화되며, 은닉 뉴런 수가 감소하거나 샘플링 주기가 굵어질 경우에도 성능을 유지할 수 있는가?

주요 결과

• DVSGesture 데이터셋에서 VOWEL은 64개의 은닉 WTA 회로와 20ms 샘플링 주기 조건에서 57.89%의 정확도를 기록했으며, 동일 조건에서 DECOLLE는 26.38%로 성능이 급격히 떨어졌다.
• 128개의 은닉 회로와 20ms 샘플링 주기 조건에서 VOWEL은 57.96%의 정확도를 유지하여 계산 자원이 제한된 환경에서도 뛰어난 내구성을 보였다.
• 은닉 뉴런 수가 감소하거나 샘플링 주기가 굵어질 경우 VOWEL은 DECOLLE를 크게 앞서며, 특히 자원이 제한된 환경에서의 효율성을 입증했다.
• 1ms 샘플링 주기에서 1024개의 은닉 단위를 사용했을 때 VOWEL은 61.42%의 정확도를 기록하여 고해상도 환경에서도 뛰어난 성능을 발휘했다.
• 더 굵은 샘플링 주기와 더 적은 뉴런 수 조건에서 VOWEL과 DECOLLE 간의 성능 격차가 더욱 벌어져, VOWEL이 시공간적 및 다가치 스파이크 정보를 보다 효과적으로 활용할 수 있음을 시사한다.
• 결과는 VOWEL로 학습된 WTA-SNN이 비율 인코딩 SNN이 공간 패턴에 국한되는 것과 달리, 스파이크 시점과 값에 의해 인코딩된 정보를 효과적으로 처리할 수 있음을 확인한다.