[논문 리뷰] Fractionally Predictive Spiking Neurons

Sander M. Bohté, Jaldert O. Rombouts|arXiv (Cornell University)|2010. 10. 29.

Neural dynamics and brain function참고 문헌 21인용 수 4

한 줄 요약

이 논문은 신호가 거듭제곱 법칙 커널의 합으로 근사될 때, 개별 신경 파동이 발 firing 빈도뿐만 아니라 신호의 분수계 도함수를 인코딩할 수 있다고 제안한다. 거듭제곱 법칙 회복성을 갖는 단순한 임계값 기반 스파iking 뉴런을 사용하여, 장기 기억성과 자기유사성을 가지는 신호를 더 효율적으로 인코딩한다. 동일한 신호 대 잡음 비율(SNR)을 달성하기 위해 지수적 감쇠 커널 대비 스파이크 수를 50퍼센트 미만으로 줄일 수 있으며, 가중치를 적용한 복원을 통한 자연스러운 시간 필터링이 가능하다.

ABSTRACT

Recent experimental work has suggested that the neural firing rate can be interpreted as a fractional derivative, at least when signal variation induces neural adaptation. Here, we show that the actual neural spike-train itself can be considered as the fractional derivative, provided that the neural signal is approximated by a sum of power-law kernels. A simple standard thresholding spiking neuron suffices to carry out such an approximation, given a suitable refractory response. Empirically, we find that the online approximation of signals with a sum of power-law kernels is beneficial for encoding signals with slowly varying components, like long-memory self-similar signals. For such signals, the online power-law kernel approximation typically required less than half the number of spikes for similar SNR as compared to sums of similar but exponentially decaying kernels. As power-law kernels can be accurately approximated using sums or cascades of weighted exponentials, we demonstrate that the corresponding decoding of spike-trains by a receiving neuron allows for natural and transparent temporal signal filtering by tuning the weights of the decoding kernel.

연구 동기 및 목표

• 개별 스파이크 트레인과 신경 신호의 분수계 도함수 사이의 기계적 연결 고리를 확립하기 위해.
• 신호가 거듭제곱 법칙 커널의 합으로 근사될 경우, 스파이크 트레인이 신호의 분수계 도함수를 나타낼 수 있는지 조사하기 위해.
• 임계값 기반 및 거듭제곱 법칙 회복성을 갖는 스파이크 생성 방식이 천천히 변화하는 장기 기억성 신호를 효율적으로 인코딩할 수 있음을 보여주기 위해.
• 스파이크 트레인에 거듭제곱 법칙 커널의 가중치 합을 적용하여 원래 신호를 복원함으로써 자연스럽고 투명한 시간 필터링이 가능함을 보여주기 위해.
• 스파이크 수와 신호 정밀도 측면에서 거듭제곱 법칙 커널 인코딩과 지수 감쇠 커널 인코딩 간의 효율성을 비교하기 위해.

제안 방법

• 신호를 $1/(t - t_i)^\beta$의 형태로 감쇠하는 이동된 거듭제곱 법칙 커널의 합으로 근사하기 위해.
• 거듭제곱 법칙 감쇠를 따르는 회복성 반응을 갖는 표준 임계값 기반 스파이킹 뉴런을 사용하여 스파이크를 생성하기 위해.
• 누적 근사 오차가 임계값을 초과할 때마다 스파이크를 발생시키는 온라인, 탐욕적 스파이크 생성 과정을 구현하기 위해.
• 원래 신호를 복원하기 위해 스파이크 트레인에 거듭제곱 법칙 커널의 가중치 합을 적용하여 복원하기 위해.
• 원하는 시간 필터링 행동을 달성하기 위해 복원 커널의 가중치를 조정하기 위해.
• 신호 대 잡음 비율(SNR)과 스파이크 수를 측정지표로 사용하여 거듭제곱 법칙 커널과 지수 감쇠 커널 간의 인코딩 효율성을 비교하기 위해.

실험 결과

연구 질문

• RQ1 신호가 거듭제곱 법칙 커널의 합으로 근사될 경우, 스파이크 트레인이 그 신호의 분수계 도함수로 해석될 수 있는가?
• RQ2 장기 기억성 신호에 대해, 거듭제곱 법칙 커널 근사와 지수 감쇠 커널 근사 간의 스파이크 트레인 인코딩 효율성은 어떻게 비교되는가?
• RQ3 수신 뉴런이 복원 커널의 가중치를 조정함으로써 얼마나 투명한 시간 필터링을 수행할 수 있는가?
• RQ4 스파이크 트레인의 신호 표현 방식은 신경 계산에서 예측 코딩 원리와 어떻게 관련이 있는가?
• RQ5 거듭제곱 법칙 회복성이 천천히 변화하는 자기유사성 있는 신호를 효율적으로 인코딩하는 데 어떤 역할을 하는가?

주요 결과

• 신호가 지수 $\beta$를 갖는 거듭제곱 법칙 커널의 합으로 근사될 경우, 스파이크 트레인 자체가 분수계 도함수를 나타내며, 이때 분수계 도함수의 차수 $\alpha = 1 - \beta$이다.
• 분수차수 브라운 운동과 같은 장기 기억성 및 자기유사성 있는 신호에 대해, 거듭제곱 법칙 커널 근사 방식은 지수 감쇠 커널 근사 방식 대비 동일한 신호 대 잡음 비율(SNR)을 달성하기 위해 스파이크 수를 50퍼센트 미만으로 줄일 수 있었다.
• 모듈레이션된 백색 잡음에 대해 정상적인 정현파 신호를 성공적으로 인코딩하였으며, 스파이크 트레인의 '순간적 빈도'는 위상 정보를 유지하였고, 특히 낮은 거듭제곱 법칙 지수에서 '-envelope의 뒷면'에서 억제 효과를 보였다.
• 가중치 합을 사용한 거듭제곱 법칙 커널 복원 과정은 자연스럽고 투명한 시간 필터링을 가능하게 하며, 커널 가중치 조정을 통해 특정 신호 처리를 선택적으로 수행할 수 있다.
• 분리된 양성 및 음성 뉴런을 사용한 비결합 인코딩 방식이 급격히 변화하는 신호에 대해 결합 인코딩 방식을 능가했지만, 빠른 극성 변화에서는 성능 저하가 발생했다.
• 모델는 신경 적응의 실험적 관측 결과와 일치하며, 분수계 도함수가 거듭제곱 법칙 동역학이 스파이킹 뉴런에서 자연스럽게 유도된다는 가설을 뒷받침한다.