[논문 리뷰] Spin glass models for a network of real neurons

Gašper Tkačik, Elad Schneidman외 2명|ArXiv.org|2009. 12. 30.

Neural dynamics and brain function참고 문헌 44인용 수 78

한 줄 요약

이 논문은 40개의 망막 뉴런에서 수집한 실험적 스파이크 데이터를 바탕으로 최대 엔트로피 이징 모델을 구축하여 이차 상호작용이 고차 상관관계를 완전히 설명함을 보여주며, 스핀 거친 물질과 유사한 집단적 행동을 드러낸다. N=40일 때 이차 상호작용은 더 이상 미세한 교란이 아니며, 120개 뉴런으로 구성된 합성 네트워크는 임계점 근처에서 작동하며, 안정성이 높은 상태를 가지며 이는 강건한 신경 코드어로 기능할 수 있다.

ABSTRACT

Ising models with pairwise interactions are the least structured, or maximum-entropy, probability distributions that exactly reproduce measured pairwise correlations between spins. Here we use this equivalence to construct Ising models that describe the correlated spiking activity of populations of 40 neurons in the salamander retina responding to natural movies. We show that pairwise interactions between neurons account for observed higher-order correlations, and that for groups of 10 or more neurons pairwise interactions can no longer be regarded as small perturbations in an independent system. We then construct network ensembles that generalize the network instances observed in the experiment, and study their thermodynamic behavior and coding capacity. Based on this construction, we can also create synthetic networks of 120 neurons, and find that with increasing size the networks operate closer to a critical point and start exhibiting collective behaviors reminiscent of spin glasses. We examine closely two such behaviors that could be relevant for neural code: tuning of the network to the critical point to maximize the ability to encode diverse stimuli, and using the metastable states of the Ising Hamiltonian as neural code words.

연구 동기 및 목표

• 실험적 신경 상관관계 데이터와 통계역학 모델 간의 정밀한 대응 관계를 최대 엔트로피 원리에 기반해 수립하기 위해.
• 실제 신경 집단에서 이차 상호작용이 고차 상관관계를 설명하기 위해 고차 상호작용이 필요 없이 충분한지 판단하기 위해.
• 이러한 접근 방식으로 모델링된 대규모 신경망이 임계성과 비정상 상태와 같은 집단적 행동을 보이는지 조사하기 위해.
• 비정상 상태가 신경 코드화와 정보 용량에 어떤 역할을 할 수 있는지 탐색하기 위해.
• 40개 뉴런 데이터에서의 외삽을 통해 N ~ 100–200 수준의 더 큰 신경 집단의 행동을 예측하기 위해.

제안 방법

• 측정된 평균 스파이크 빈도와 이차 상관관계를 기반으로 최대 엔트로피 원리를 적용하여 이차 상호작용을 포함한 이징 모델을 유도한다.
• 해당 모델의 해밀토니안 형태 $\mathcal{H} = \sum_i h_i \sigma_i + \frac{1}{2} \sum_{i \neq j} J_{ij} \sigma_i \sigma_j $를 사용하며, $h_i$와 $J_{ij}$는 실험적 모멘트를 일치시키기 위해 피팅된다.
• 모든 $2^N$개의 이진 상태에 대한 전체 확률 분포 $P(\{\sigma_i\})$를 계산하기 위해 몬테카를로 샘플링을 적용한다.
• 관측된 $J_{ij}$와 $h_i$ 파rameters를 일반화하여 더 큰 $N$으로의 외삽을 통해 합성 네트워크 집단을 구성한다.
• 합성 네트워크에서 시스템의 감도와 상관 길이를 분석함으로써 열역학적 성질과 임계성을 조사한다.
• 시험에 관계없이 반복적으로 나타나며 자극에 따라 달라지는 국소적으로 안정된 상태(비정상 구성)를 확률 분포의 지형에서 식별한다.

실험 결과

연구 질문

• RQ1 40개 뉴런으로 구성된 신경망에서 이차 상호작용이 관측된 고차 상관관계를 완전히 설명할 수 있는가?
• RQ2 네트워크 크기가 어느 정도가 되면 이차 상호작용이 독립적 활동에 대한 미세한 교란이 더 이상 아니게 되는가?
• RQ3 실제 데이터에서 유도된 합성 신경망이 활동 폭발의 등급 법칙 분포를 보이는 것처럼 임계 행동을 나타내는가?
• RQ4 이징 해밀토니안의 비정상 상태가 강건하고 고용량의 코드어로 신경 코드화에 기여할 수 있는가?
• RQ5 네트워크의 작동이 정보 용량과 자극 다양성의 인코딩을 극대화하기 위해 임계점 근처로 조율되어 있는가?

주요 결과

• N = 40일 때, 직접 상호작용의 기여와 내재된 편향의 기여가 유사하므로 이차 상호작용은 더 이상 독립적 활동에 대한 작은 교란이 아니다.
• 이차 상호작용을 포함한 이징 모델은 고차 상호작용이 필요 없이도 실험 데이터와 일치하는 전체 신경 활동 패턴의 확률 분포를 정확히 재현한다.
• 120개 뉴런으로 구성된 합성 네트워크는 상관 길이와 감도가 발산하는 것으로 나타나 임계점 근처에서 작동하는 것으로 확인된다.
• N = 40일 때 시각 자극에 대한 참조 없이도 반복적으로 다수의 국소적으로 안정된 상태가 나타나며, 이 상태들은 자극 특성과 관련이 있다.
• 비정상 상태의 수는 네트워크 크가 증가함에 따라 급격히 증가하여 다양한 자극을 인코딩하기 위한 광범위한 어휘의 잠재적 가능성을 시사한다.
• 시스템의 임계점에 가까운 상태와 강건한 비정상 상태의 존재는 고용량이며 노이즈에 강건한 신경 코드화의 메커니즘을 시사한다.