[논문 리뷰] Learning arbitrary dynamics in efficient, balanced spiking networks using local plasticity rules

Alireza Alemi, Christian K. Machens외 2명|arXiv (Cornell University)|2017. 05. 22.

Advanced Memory and Neural Computing참고 문헌 17인용 수 12

한 줄 요약

이 논문은 지역적 시냅스 플라스티시티 규칙만을 사용하여 임의의 비선형 동역학을 학습할 수 있는 생물학적으로 타당한 스파iking 순환 네트워크를 위한 학습 프레임워크를 제안한다. 효율적이고 균형 잡힌 스파이크 네트워크(EBN)와 비선형 적응 제어 이론을 조합함으로써, 스파이크 효율성, 노이즈 및 뉴런 손실에 대한 강건성, 그리고 지역적 오차 피드백를 통한 최소 스파이크 수를 확보하여, 저차원의 비동기 스파이크 트레인으로 정확한 동역학을 달성한다.

ABSTRACT

Understanding how recurrent neural circuits can learn to implement dynamical systems is a fundamental challenge in neuroscience. The credit assignment problem, i.e. determining the local contribution of each synapse to the network's global output error, is a major obstacle in deriving biologically plausible local learning rules. Moreover, spiking recurrent networks implementing such tasks should not be hugely costly in terms of number of neurons and spikes, as they often are when adapted from rate models. Finally, these networks should be robust to noise and neural deaths in order to sustain these representations in the face of such naturally occurring perturbation. We approach this problem by fusing the theory of efficient, balanced spiking networks (EBN) with nonlinear adaptive control theory. Local learning rules are ensured by feeding back into the network its own error, resulting in a synaptic plasticity rule depending solely on presynaptic inputs and post-synaptic feedback. The spiking efficiency and robustness of the network are guaranteed by maintaining a tight excitatory/inhibitory balance, ensuring that each spike represents a local projection of the global output error and minimizes a loss function. The resulting networks can learn to implement complex dynamics with very small numbers of neurons and spikes, exhibit the same spike train variability as observed experimentally, and are extremely robust to noise and neuronal loss.

연구 동기 및 목표

• 스파이킹 네트워크에서 크레딧 할당 문제를 해결하기 위해 생물학적으로 타당한 지역적 학습 규칙을 유도하는 것.
• 최소한의 스파이크 수를 유지하면서도 정확한 동역학 표현을 유지함으로써 스파이킹 효율성을 확보하는 것.
• 균형 잡힌 신경 집합의 열악한 대체 가능성(데그레드성)을 통해 노이즈 및 뉴런 손실에 대한 강건성을 확보하는 것.
• 효율적인 균형 네트워크(EBN)와 적응 제어 이론을 통합하여 임의의 비선형 동역학을 학습할 수 있는 프레임워크를 만드는 것.
• 비동기적이고 비정규적인 스파이킹 활동이 노이즈가 아니라 효율적 코딩의 징후임을 보여주는 것.

제안 방법

• 임의의 비선형 동역학을 근사하기 위해 비선형 분지 통합(tanh 등)을 통해 구현된 기저 함수의 집합을 네트워크가 사용한다.
• 적응 제어 이론을 활용해 지역적 학습 규칙을 유도하며, 시냅스 가중치는 전시냅스 활동과 후시냅스 오차 피드백 간의 상관관계에 따라 갱신된다.
• 목표 궤적과 재구성된 상태 간의 차이로 정의된 오차 신호는 지역적으로 플라스티시티를 조절하기 위해 피드백으로 제공된다.
• 엄격한 활성화-억제(E/I) 균형은 각 스파이크가 의미 있는 오차 관련 신호를 담고 있도록 하여 부족함을 최소화하고 효율적 코딩을 가능하게 한다.
• 학습 규칙의 수렴성을 보장하기 위해 라플라스 함수를 사용하며, 이는 전역적 오차 역전파를 필요로 하지 않는다.
• 네트워크 아키텍처는 차원 축소를 지원하며, 신경 활동은 임무 관련 부분공간에 제약을 받고, 이에 수직인 변동성은 그 외부에 존재한다.

실험 결과

연구 질문

• RQ1 스파이킹 네트워크에서 임의의 비선형 동역학을 학습하기 위해 생물학적으로 타당한 지역적 플라스티시티 규칙를 도출할 수 있는가?
• RQ2 최소한의 스파이크 수로 측정되는 스파이킹 효율성은 정확한 동역학 유지와 함께 어떻게 달성될 수 있는가?
• RQ3 학습 성능을 희생시키지 않고도 노이즈 및 뉴런 손실에 대해 네트워크가 강건성을 유지할 수 있는가?
• RQ4 비동기적이고 비정규적인 스파이킹 활동은 노이즈가 아니라 효율적 코딩의 징후인가?
• RQ5 EBN와 적응 제어 이론의 조합이 복잡한 동역학을 위한 확장 가능한 지역적 학습 프레임워크를 제공할 수 있는가?

주요 결과

• 전역적 오차 역전파가 필요 없이 지역적 시냅스 플라스티시티만으로도 임의의 비선형 동역학을 학습할 수 있다.
• 엄격한 E/I 균형을 통해 스파이킹 효율성이 확보되어 낮은 스파이크 수와 상관관계가 없는 스파이크 트레인으로 인해 부족함이 최소화된다.
• 노이즈 및 뉴런 손실에 대해 강건성을 보이며, 최대 30%의 뉴런이 제거된 상태에서도 정확한 동역학을 유지한다.
• 스파이크 트레인은 실험 관측 결과와 밀도적으로 일치하며, 낮은 발화율과 비정규적, 비동기적 패턴을 보여,皮질 활동과 일치한다.
• 학습 규칙은 안정적이고 수렴적이며, 오차가 시간이 지남에 따라 최소화됨을 보장하는 라플라스 함수에 의해 보장된다.
• 프레임워크는 차원 축소를 지원하며, 인구의 동역학은 임무 관련 부분공간에 제약을 받고, 이에 수직인 변동성은 그 외부에 존재한다.