[논문 리뷰] Point Neurons with Conductance-Based Synapses in the Neural Engineering Framework

Andreas Stöckel, Aaron R. Voelker외 1명|arXiv (Cornell University)|2017. 10. 20.

Advanced Memory and Neural Computing참고 문헌 5인용 수 5

한 줄 요약

이 논문은 전압에 의존하는 스케일링 변환을 사용하여 현재 기반에서 도전성 기반 시냅스로 신경공학 프레임워크(Nef) 네트워크를 변환하는 방법을 제안한다. 전방향 네트워크에서는 효과적이지만, 적분과 같은 순환 동역학에서는 조정 곡선의 지연된 스파이크 발생으로 인해 성능이 저하됨을 보이며, 단순한 가중치 재조정이 아닌 전체 가중치 행렬의 반복 최적화가 필요함을 시사한다.

ABSTRACT

The mathematical model underlying the Neural Engineering Framework (NEF) expresses neuronal input as a linear combination of synaptic currents. However, in biology, synapses are not perfect current sources and are thus nonlinear. Detailed synapse models are based on channel conductances instead of currents, which require independent handling of excitatory and inhibitory synapses. This, in particular, significantly affects the influence of inhibitory signals on the neuronal dynamics. In this technical report we first summarize the relevant portions of the NEF and conductance-based synapse models. We then discuss a naïve translation between populations of LIF neurons with current- and conductance-based synapses based on an estimation of an average membrane potential. Experiments show that this simple approach works relatively well for feed-forward communication channels, yet performance degrades for NEF networks describing more complex dynamics, such as integration.

연구 동기 및 목표

• 선형적인 현재 기반 NEF 프레임워크와 생물학적으로 현실적인 도전성 기반 시냅스 간 격차를 메우기 위해.
• 도전성 기반 시냅스가 막 전위와 역전 전위에 의존함에 따라 발생하는 비선형성을 다루기 위해.
• 현재 기반 NEF 가중치를 단순한 변환을 통해 도전성 기반 구현에서 네트워크 기능을 유지할 수 있는지 평가하기 위해.
• NEF 체계 하에서 도전성 기반 시냅스를 사용할 경우 순환 네트워크 성능에 나타나는 한계를 규명하기 위해.

제안 방법

• 전압에 의존하는 스케일링 요소를 포함시켜 도전성 기반 NEF 시냅스 전류 방정식의 등가를 유도하기 위해.
• 기대 평균 막 전위를 사용하여 전류에서 도전성으로의 변환을 근사하기 위해 이러한 스케일링 요소를 추정하기 위해.
• 기존의 현재 기반 NEF 가중치 행렬에 변환을 적용하여 편향 전류를 제거함으로써 일관성을 유지하기 위해.
• 전방향 및 순환 네트워크에서 벤치마크 실험을 통해 성능을 원래의 현재 기반 모델과 비교하여 방법을 검증하기 위해.
• 특히 시뮬레이션에서 관찰된 조정 곡선의 지연된 스파이크 발생을 분석하기 위해 도전성 기반 뉴런의 조정 곡선 이동을 분석하기 위해.
• 표준 NEF 솔버가 도전성 기반 시냅스에 대해 실패하는 이유는 전체 가중치 행렬을 최적화해야 하며, 디코더만 최적화하는 것이 아닌 것을 규명하기 위해.

실험 결과

연구 질문

• RQ1 현재 기반 NEF 가중치 행렬을 단순한 변환으로 도전성 기반 등가로 변환할 수 있는가?
• RQ2 전방향 통신 채널에서 도전성 기반 시냅스의 성능은 현재 기반 시냅스와 어떻게 비교되는가?
• RQ3 왜 도전성 기반 시냅스를 사용할 경우 순환 네트워크(예: 적분기)에서 성능이 저하되는가?
• RQ4 특히 지연된 스파이크 발생을 포함한 조정 곡선 이동이 도전성 기반 NEF 네트워크에서의 성능 편차를 어느 정도 설명하는가?
• RQ5 전체 가중치 행렬을 재학습하지 않고도 NEF 프레임워크를 도전성 기반 시냅스에 적응시키는 것이 가능한가?

주요 결과

• 제안된 변환은 편향 전류를 제거한 후 현재 기반 대비 최소한의 오차로 전방향 네트워크에서 양호한 성능을 유지한다.
• 적분기와 같은 순환 네트워크에서는 목적 동역학에서 체계적인 편차가 발생하며, 특히 신호 과소 평가와 지연된 반응이 나타난다.
• 도전성 기반 뉴런은 현재 기반 뉴런보다 조정 곡선이 이동하고 지연된 스파이크 발생을 보이며, 이는 성능 저하의 주요 원인일 가능성이 있다.
• 평균 막 전위에서 유도된 전압에 의존하는 스케일링 요소는 합리적인 근사치를 제공하지만, 전체 비선형 동역학을 포착하지 못한다.
• 단순한 가중치 행렬 변환은 순환 네트워크에 부적합하며, 전체 가중치 행렬의 반복 최적화가 필요하여 계산 비용이 증가한다.
• 초기 결과는 도전성 기반 NEF 네트워크가 표준 NEF 접근 방식보다 더 복잡한 솔버가 필요하더라도 실현 가능하다는 것을 시사한다.