[논문 리뷰] Higher Order Correlations within Cortical Layers Dominate Functional Connectivity in Microcolumns

Urs Köster, Jascha Sohl‐Dickstein외 2명|arXiv (Cornell University)|2013. 01. 01.

Neural dynamics and brain function참고 문헌 20인용 수 11

한 줄 요약

이 논문은 고차 통계 모델—특히 반제한 볼츠만 기계(sRBMs)와 제한 볼츠만 기계(RBMs)—를 사용하여 고양이 시각 피질의 32채널 폴리트로드 기록에서 복잡한 층 특이 기능적 연결성을 포착한다. 이러한 모델은 이차 상관관계를 포착하지 못하는 이차 상관관계를 포함하지 않는 고차 상관관계에 의해 주도되는 층 내 기능적 연결성이 주로 조직되어 있음을 드러내며, 이는 이차 이슬링 모델보다 성능이 뛰어나다.

ABSTRACT

We report on simultaneous recordings from cells in all layers of visual cortex and models developed to capture the higher order structure of population spiking activity. Specifically, we use Ising, Restricted Boltzmann Machine (RBM) and semi-Restricted Boltzmann Machine (sRBM) models to reveal laminar patterns of activity. While the Ising model describes only pairwise couplings, the RBM and sRBM capture higher-order dependencies using hidden units. Applied to 32- channel polytrode data recorded from cat visual cortex, the higher-order mod- els discover functional connectivity preferentially linking groups of cells within a cortical layer. Both RBM and sRBM models outperform Ising models in log- likelihood. Additionally, we train all three models on spatiotemporal sequences of states, exposing temporal structure and allowing us to predict spiking from network history. This demonstrates the importance of modeling higher order in- teractions across space and time when characterizing activity in cortical networks.

연구 동기 및 목표

• 시각 피질 미세소엽에서 이차 상호작용을 초월하는 고차 상관관계를 모델링하기 위해.
• 이슬링 모델과 같은 이차 모델의 한계를 해결하여 희소하고 고차원적인 신경 기록에서 복잡한 다세포 의존성을 포착하기 위해.
• 대규모 신경 모델에서 계산이 불가능한 정규화 상수를 피하는 효율적인 매개변수 추정 방법을 개발하기 위해.
• 기능적 연결성 패턴이 층 간이 아닌 특정 층 내에서 공간적으로 조직되어 있는지 조사하기 위해.
• 과거 네트워크 기록을 기반으로 시공간적 의존성을 모델링하여 향후 스파iking 활동을 예측하기 위해.

제안 방법

• 이산화된 분할 함수를 계산하지 않고도 계산이 불가능한 정규화 상수 문제를 피하기 위해, Ising, RBM, sRBM 모델의 효율적 매개변수 추정에 최소 확률 흐름(MPF)을 적용하였다.
• 분할 함수를 추정하고 다양한 모델 간의 로그우도를 비교하기 위해 냉각된 중요도 샘플링을 사용하였다.
• 고양이 시각 피질의 모든 층을 포함한 32채널 기록에서 20ms 시간 간격으로 나누어진 스파이킹 활동을 기반으로 모델을 훈련시켰다.
• 이웃한 시간 간격을 연결하여 시공간적 시퀀스로 확장함으로써 시간 동적성을 포착하고 향후 스파이킹을 예측하였다.
• 기록된 뉴런을 위한 가시 단위와 세포 집단 간의 은닉 고차 의존성을 모델링하기 위한 은닉 단위를 갖는 sRBM 아키텍처를 사용하였다.
• 보류된 데이터에서 로그우도를 통해 모델 성능을 비교하여, RBM과 sRBM이 Ising 모델보다 우수한 적합도를 보였다.

실험 결과

연구 질문

• RQ1 고양이 시각 피질의 미세소엽에서 이차 상호작용이나 층 간 상호작용에 비해 고차 상관관계가 기능적 연결성의 주요 원인인가?
• RQ2 은닉 단위를 갖는 모델(RBM/sRBM)이 이차 이슬링 모델보다 층 내 신경 집단의 진정한 분포를 더 잘 포착할 수 있는가?
• RQ3 고차 모델이 드러내는 기능적 연결성의 구조는 특정 층 내에서 국소화되어 있는가?
• RQ4 과거 네트워크 기록을 기반으로 훈련된 시공간 모델이 이차 모델보다 향후 스파이킹 활동을 더 정확하게 예측할 수 있는가?
• RQ5 은닉 단위의 포함이 공분산 기반 또는 이차 상관관계 분석에서는 감지되지 않는 약한 집단적 의존성을 탐지할 수 있는가?

주요 결과

• sRBM과 RBM 모델은 로그우도 측면에서 이슬링 모델을 뚜렷이 뛰어넘었으며, 이는 신경 집단 상태의 진정한 분포를 더 잘 포착했음을 시사한다.
• 기능적 연결성은 주로 개별 층 내에서 조직되어 있었으며, 같은 층 내 뉴런 간의 강한 결합과 더불어 층 간 결합은 약했다.
• sRBM의 은닉 단위는 뉴런 군집 간의 집단 활동 패턴을 학습하여, 이차 상관관계 분석으로는 감지되지 않는 잠재적 어셈블리(집단)를 드러냈다.
• 모델들은 스파이킹 활동의 시간적 구조를 성공적으로 포착하여 네트워크 기록을 기반으로 향후 스파이킹 상태를 예측할 수 있었다.
• 고차 의존성은 층 내 네트워크를 모델링하는 데 필수적이었으며, 이차 모델은 데이터의 전체 통계적 구조를 설명하지 못했다.
• MPF와 냉각된 중요도 샘플링의 사용은 고차원 신경 데이터에서 모델의 효율적 추정과 평가를 가능하게 하였으며, 정규화 상수의 계산 불가능성 문제를 해결하였다.