[논문 리뷰] Synaptic Transmission: An Information-Theoretic Perspective

Amit Manwani, Christof Koch|ArXiv.org|1998. 09. 22.

Neural dynamics and brain function참고 문헌 6인용 수 10

한 줄 요약

이 논문은 정보이론을 사용하여 시냅스 전달을 분석하며, 총피질 시냅스를 두 가지 개념적 프레임워크인 신호 추정(평균 발화율 복원)과 신호 검출(스파이크 존재 여부 판단)에서 노이즈 있는 채널로 모델링한다. 비용함수 형태의 시냅스 용량 하한을 유도하며, 단일 시냅스는 정보 전달 능력이 열 劣하지만, 단지 몇 개의 시냅스가 상호 중복되어도 신뢰성과 정보 전달 속도가 크게 향상되어 고SNR 성능에 가까워진다.

ABSTRACT

Here we analyze synaptic transmission from an information-theoretic perspective. We derive closed-form expressions for the lower-bounds on the capacity of a simple model of a cortical synapse under two explicit coding paradigms. Under the ``signal estimation'' paradigm, we assume the signal to be encoded in the mean firing rate of a Poisson neuron. The performance of an optimal linear estimator of the signal then provides a lower bound on the capacity for signal estimation. Under the ``signal detection'' paradigm, the presence or absence of the signal has to be detected. Performance of the optimal spike detector allows us to compute a lower bound on the capacity for signal detection. We find that single synapses (for empirically measured parameter values) transmit information poorly but significant improvement can be achieved with a small amount of redundancy.

연구 동기 및 목표

• 정보이론적 원리를 사용하여 시냅스 정보 전달 용량을 정량화하는 것.
• 시냅스 전달을 확률적 시냅스 소포 방출과 노이즈 있는 후시냅스 전압을 고려한 통신 채널로 모델링하는 것.
• 신호 추정(빈도 코드화)과 신호 검출(전부 또는 없음 스파이크 존재 여부)이라는 두 가지 코드화 프레임워크에서의 성능 평가.
• 여러 개의 시냅스 간 중복성이 정보 전달과 신뢰성에 어떻게 기여하는지 규명하는 것.
• 생물물리학적으로 타당한 파rameter 값에 대해 시냅스 용량의 닫힌 형태 하한을 제공하는 것.

제안 방법

• 시냅스를 이진 채널(소포 방출용)과 EPSP를 나타내는 랜덤 진폭 필터 h(t)의 연쇄 구조로 모델링한다.
• 시험 간 변동성을 모델링하기 위해 평균 μₐ와 분산계수 CVₐ를 가진 감마분포를 가지는 진폭 a를 사용한다.
• 후시냅스 전압 노이즈를 모델링하기 위해 가우시안 백색 잡음 n(t)을 도입하며, 스펙트럼 밀도가 No = σₙ² / Bₙ인 경우를 고려한다.
• 신호 추정 프레임워크에서는 최적 선형 추정을 위해 위너 필터링을 적용하여 평균 제곱 오차를 최소화한다.
• 신호 검출 프레임워크에서는 최적의 스파이크 검출을 위해 매치드 필터링과 우도 비율 검정을 적용한다.
• 검출 채널의 상호정보량 I(X;Y)와 오차 확률 Pe를 계산하며, 이진 엔트로피 함수와 ROC 분석을 사용해 최적의 임계값을 선택한다.

실험 결과

연구 질문

• RQ1 실제 생물물리적 제약 조건 하에서 단일 총피질 시냅스는 얼마나 많은 정보를 전달할 수 있는가?
• RQ2 시냅스의 신뢰성(방출 확률과 EPSP 변동성)이 정보 전달 용량에 어떻게 제한을 가하는가?
• RQ3 독립된 여러 시냅스 간의 중복성이 정보 전달 능력 향상과 오차율 감소에 얼마나 기여하는가?
• RQ4 후시냅스 노이즈와 EPSP 진폭 변동성이 함께 시냅스 정보 용량에 어떻게 영향을 미치는가?
• RQ5 정보 전달 속도와 오차 성능 측면에서 신호 추정과 신호 검출의 결과는 어떻게 비교되는가?

주요 결과

• 실험적으로 측정된 파rameter(예: p=0.4, CVₐ=0.6)를 가진 단일 시냅스는 정보 전달 능력이 열 劣하며, 상호정보량이 낮고 오차율이 높다.
• 이deal한 방출 조건(ε₁=0)이라도 EPSP 진폭 변동성으로 인해 최소 오차 확률 Pe*는 0이 아니며, 이는 시냅스의 내재적 불신뢰성을 입증한다.
• 후시냅스 노이즈를 제거할 경우(SNR=∞), 확률적 소포 방출으로 인해 여전히 검출 오차 Pe는 0이 아니며, ε₀=0일 경우 Pe* = pₒε₁가 된다.
• 5개의 독립된 시냅스가 병렬로 연결되면 시스템은 고SNR 성능에 가까워지며, 오차 확률은 크게 감소하고 정보 전달 속도는 증가한다.
• 정보 용량은 시냅스 수 n에 따라 선형적으로 증가하므로, 중복성이 강건한 신경 코드화를 위한 확장 가능하고 효과적인 메커니즘이 됨을 시사한다.
• 신호 검출의 상호정보량 I(X;Y)는 n과 SNR에 따라 증가하며, 작은 n에서도 상당한 성능 향상이 이루어져 중복성의 힘을 입증한다.