[논문 리뷰] Encoding Spike Patterns in Multilayer Spiking Neural Networks

Gardner Brian, Ioana Sporea외 1명|arXiv (Cornell University)|2015. 03. 31.

Advanced Memory and Neural Computing참고 문헌 48인용 수 15

한 줄 요약

이 논문은 다층 스파iking 신경망을 위한 생물학적으로 타당한 확률 기반 학습 규칙을 제안하며, 입력 패턴을 정확한 출력 스파이크 트레인으로 변환하는 정밀한 시간 인코딩을 가능하게 한다. 확률적 스파이크 뉴런 모델에서 목표 스파이크 패턴을 생성할 확률을 기반으로 기울기 상승을 통해 학습함으로써, 복잡한 스파이크 타이밍 매핑의 고용량 학습을 달성하며, 기존 규칙보다 매핑 용량과 복잡성에서 뛰어나며, 노이즈가 있는 조건에서도 XOR과 같은 비선형 작업을 성공적으로 해결한다.

ABSTRACT

Information encoding in the nervous system is supported through the precise spike-timings of neurons; however, an understanding of the underlying processes by which such representations are formed in the first place remains unclear. Here we examine how networks of spiking neurons can learn to encode for input patterns using a fully temporal coding scheme. To this end, we introduce a learning rule for spiking networks containing hidden neurons which optimizes the likelihood of generating desired output spiking patterns. We show the proposed learning rule allows for a large number of accurate input-output spike pattern mappings to be learnt, which outperforms other existing learning rules for spiking neural networks: both in the number of mappings that can be learnt as well as the complexity of spike train encodings that can be utilised. The learning rule is successful even in the presence of input noise, is demonstrated to solve the linearly non-separable XOR computation and generalizes well on an example dataset. We further present a biologically plausible implementation of backpropagated learning in multilayer spiking networks, and discuss the neural mechanisms that might underlie its function. Our approach contributes both to a systematic understanding of how pattern encodings might take place in the nervous system, and a learning rule that displays strong technical capability.

연구 동기 및 목표

• 다층 스파이킹 신경망이 입력 패턴을 정확한 시간적 인코딩으로 목표 출력 스파이크 트레인으로 변환할 수 있도록 하는 생물학적으로 타당한 학습 규칙을 개발하는 것.
• 스파이크 타이밍의 비연속성에 주목하면서도, 미분 가능하고 기울기 기반 접근 방식을 사용하여 은닉층을 가진 깊은 스파이킹 네트워크를 훈련하는 도전 과제를 해결하는 것.
• 비선형으로 분리할 수 없는 작업인 XOR과 같은 복잡한 입력-출력 스파이크 패턴 매핑을 수많이 학습할 수 있는 능력을 입증하는 것.
• STDP와 같은 알려진 신경 기제와 연결하여, 다층 스파이킹 네트워크에서 백프로파게이션의 생물학적으로 타당한 구현을 제공하는 것.
• 입력 노이즈에 대한 일반화 및 강건성, 그리고 실제 세계의 패턴 인식 작업에서의 성능 검증을 보여주는 것.

제안 방법

• 출력 스파이크 시간이 네트워크 파라미터에 부드럽게 의존하는 순순간 발화율에 의해 확률적으로 결정되는 확률적 스파이크 뉴런 모델을 사용하여 기울기 기반 최적화를 가능하게 한다.
• 합계 로그우도를 최대화함으로써 목표 출력 스파이크 패턴을 생성할 확률을 극대화하는 확률 기반 학습 규칙을 수립하며, 시냅스 가중치에 대한 기울기 상승을 사용한다.
• 학습 규칙은 다중 레이어에 걸쳐 적용되며, 출력 레이어에서 역전파된 오차 신호에 기반하여 은닉층 가중치가 업데이트되며, 시냅스 가중치에 대한 로그우도의 기울기 비례로 업데이트된다.
• 시냅스 다양성과 네트워크 표현력을 높이기 위해 입력층과 은닉층 사이에 전도 지연을 도입하며, 이를 시간 이동된 postsynaptic 전위로 모델링한다.
• 안정적인 학습을 보장하기 위해 훈련 중 시냅스 가중치를 제약한다: 은닉층 가중치는 0에서 100 사이로 제한되며, 출력층 가중치는 뉴런 수에 따라 제약되거나 무작위 값으로 초기화된다.
• 스파이크 타이밍의 연속적 근사치를 사용하여, 스파이크의 이산성에도 불구하고 기울기 기반 업데이트를 가능하게 한다.

실험 결과

연구 질문

• RQ1 확률 기반 학습 규칙이 다층 스파이킹 신경망이 복잡하고 정밀한 시간적 입력-출력 스파이크 패턴 매핑을 학습할 수 있는가?
• RQ2 기존 규칙과 비교해 복잡한 스파이크 트레인 인코딩의 수와 매핑 가능 수에서 제안된 학습 규칙의 성능은 어떠한가?
• RQ3 비선형적으로 분리할 수 없는 작업인 XOR 문제를 스파이킹 네트워크에서 시간 인코딩을 사용해 성공적으로 학습할 수 있는가?
• RQ4 학습 규칙은 입력 노이즈에 얼마나 강건한가? 그리고 알려지지 않은 입력 패턴으로 일반화하는 데 얼마나 잘 성능을 내는가?
• RQ5 제안된 스파이킹 네트워크에서 백프로파게이션 유사 학습을 뒷받침할 수 있는 생물학적으로 타당한 신경 기제는 무엇인가?

주요 결과

• 제안된 학습 규칙은 기존 규칙보다 매핑 용량과 인코딩 복잡성 측면에서 뚜렷이 뛰어난 수많은 복잡한 입력-출력 스파이크 패턴 매핑을 성공적으로 학습한다.
• 입력 노이즈가 존재하는 조건에서도 높은 정확도를 달성하며, 유한한 학습 에피소드 수 이후 성능이 최종 값의 1% 이내로 안정화된다.
• 정밀한 스파이크 타이밍 인코딩을 사용하여 선형적으로 분리 불가능한 XOR 작업을 성공적으로 해결하며, 비선형 계산 능력을 입증한다.
• 실제 세계 데이터셋에서 잘 일반화되어, 시간 패턴 인식 분야의 실용적 응용 가능성을 시사한다.
• 학습 규칙은 여러 시뮬레이션 런에서 안정적이고 신뢰성 있게 수렴하며, 성능이 최종 값의 99%에 도달하는 데까지의 에피소드 수로 수렴 시간을 정의한다.
• STDP와 시냅스 가중치 동역학과 같은 알려진 기제와 연결하여, 다층 스파이킹 네트워크에서 백프로파게이션의 생물학적으로 타당한 구현을 제공한다.