[논문 리뷰] Ising models for networks of real neurons

Gašper Tkačik, Elad Schneidman외 2명|ArXiv.org|2006. 11. 22.

Neural dynamics and brain function인용 수 102

한 줄 요약

이 논문은 최대 엔트로피 추론을 사용하여 관측된 이변량 상관관계를 반영함으로써, 40개의 뉴런까지 망막 경련세포의 집단적 스파iking 활동을 정확하게 기술하는 이편적 이징 모델을 제안한다. 고차 상관관계를 배제함에도 불구하고, 모델은 고차 상관관계를 재현하며, 더 큰 합성 네트워크(120개 뉴런)가 임계점 근처에서 작동하고, 스핀거스 유사 상태와 집단적 구성에 의한 높은 정보 용량을 나타내는 집단적 행동을 보임을 드러낸다.

ABSTRACT

Ising models with pairwise interactions are the least structured, or maximum-entropy, probability distributions that exactly reproduce measured pairwise correlations between spins. Here we use this equivalence to construct Ising models that describe the correlated spiking activity of populations of 40 neurons in the retina, and show that pairwise interactions account for observed higher-order correlations. By first finding a representative ensemble for observed networks we can create synthetic networks of 120 neurons, and find that with increasing size the networks operate closer to a critical point and start exhibiting collective behaviors reminiscent of spin glasses.

연구 동기 및 목표

• 큰 망막 신경 집단의 상관관계 있는 스파이킹 활동을 이편적 이징 모델이 정확히 기술할 수 있는지 확인하는 것.
• 고차 상관관계가 명시적으로 배제된 모델이 신경 데이터의 고차 상관관계를 포괄할 수 있는지 조사하는 것.
• 실제 망막 네트워크의 경험 통계로부터 구성된 더 큰 신경 네트워크에서의 잠재적 집단적 행동을 탐색하는 것.
• 이러한 네트워크가 열역학적 서명(예: 열용량 피크)을 통해 임계점 근처에서 작동하는지 테스트하는 것.
• 특히 큰 네트워크에서 집단 상태가 신경 정보 표현에 미치는 역할을 평가하는 것.

제안 방법

• 40-뉴런 망막 기록에서 관측된 평균 발화율과 이변량 상관관계를 만족시키는 이징 모델을 최대 엔트로피 원리에 따라 구성한다.
• 역 이징 문제를 해결하기 위해 반복 학습 알고리즘(Eq. 3)을 적용하여 몬테카를로 추정치를 사용해 필드 $ h_i $ 와 결합 상수 $ J_{ij} $ 를 조정한다.
• 실제 40-뉴런 집단에서 관측된 $ \langle\sigma_i\rangle $ 와 $ C_{ij} $ 의 경험 분포에서 샘플링하여 합성 120-뉴런 네트워크를 구성한다.
• 열용량 $ C(T) $ 와 엔트로피 결손 $ I(N) $ 와 같은 열역학적 양을 계산하여 임계성과 집단 행동을 탐지한다.
• 영온도 몬테카를로를 통해 안정된 집단 상태(안정 영역)를 식별하고, 빈도 분포를 분석한다.
• 대규모 네트워크에서 안정 상태 빈도의 파wer-법칙 분포를 분석하기 위해 지프 플롯을 사용하며, 이는 정보 용량을 나타낸다.

실험 결과

연구 질문

• RQ1 이편적 이징 모델이 이변량 통계를 초월하여 망막 신경 활동의 고차 상관관계를 정확히 재현할 수 있는가?
• RQ2 실제 망막 네트워크의 경험 통계로부터 구성된 합성 신경 네트워크가 크기가 증가함에 따라 유사 임계 행동을 보이는가?
• RQ3 큰 신경 네트워크의 정보 용량이 개별 스파이크 패턴보다 집단 상태에 의해 지배되는가?
• RQ4 결합 상수 $ J_{ij} $ 와 괴로움을 느끼는 삼각형의 분포가 이러한 네트워크에서 스핀거스 유사 행동과 어떻게 관련되는가?
• RQ5 네트워크의 작동 지점이 열용량 피크를 통해 임계점과 일치하는가?

주요 결과

• 이편적 상호작용을 가진 이징 모델은 40-뉴런 망막 네트워크에서 이변량 상관관계를 정확히 재구성하며, 재구성 오차는 백트래킹 및 부트스트랩 오차 막대 내에 포함된다.
• 모델은 삼점 상관관계를 성공적으로 예측하여, 고차 상관관계가 이변량 상호작용만으로도 유도된다는 것을 입증한다.
• 합성 120-뉴런 네트워크는 $ T^* = 1.07 \pm 0.02 $ 에서 날카로운 열용량 피크를 보이며, 임계점 근처에서 작동하고 있음을 나타낸다.
• 엔트로피 결손 $ I(N) $ 는 $ N^2 $ 에 비례하여 증가하며, 강한 집단 상관관계를 나타내며, $ S_0(120) = 17.8 \pm 0.2 $ 비트와 $ S(120) = 10.7 \pm 0.2 $ 비트이다.
• N=120일 때, 시스템은 수천 개의 안정된 집단 상태를 지닌다. 이들의 빈도 분포는 거의 지프 유사 분포이며, 엔트로피는 총 엔트로피의 1/3인 $ 3.4 \pm 0.3 $ 비트이다.
• $ J_{ij} $ 의 분포는 평균 $ \overline{J} = -0.016 \pm 0.004 $ 와 $ \sigma_J = 0.61 \pm 0.04 $ 를 가진 가우시안에 근접하며, 53%의 삼각형이 괴로움을 느끼며, 스핀거스 유사 행동을 나타낸다.