[논문 리뷰] A shotgun sampling solution for the common input problem in neural connectivity inference

Daniel Soudry, Suraj Prasad Keshri외 4명|arXiv (Cornell University)|2013. 09. 15.

Neural dynamics and brain function참고 문헌 38인용 수 20

한 줄 요약

이 논문은 공통 입력이 없는 신경 회로 연결성 추론을 위해 '샷건' 실험 설계를 제안한다. 이는 시간에 따라 겹치는 부분 네트워크를 순차적으로 관찰하여 관측되지 않은 공통 입력으로 인한 편향을 완화하는 방식이다. 일반선형모형에 대한 확장 가능한 근사 베이지안 방법을 사용함으로써, 한 시간 간격당 관측되는 뉴런 수가 매우 적은 경우에도 대규모 스파iking 네트워크에서 정확한 추론이 가능해지며, 수천 개의 뉴런을 포함하는 시뮬레이션에서도 뛰어난 성능을 보였다.

ABSTRACT

Inferring connectivity in neuronal networks remains a key challenge in statistical neuroscience. The `common input' problem presents the major roadblock: it is difficult to reliably distinguish causal connections between pairs of observed neurons from correlations induced by common input from unobserved neurons. Since available recording techniques allow us to sample from only a small fraction of large networks simultaneously with sufficient temporal resolution, naive connectivity estimators that neglect these common input effects are highly biased. This work proposes a `shotgun' experimental design, in which we observe multiple sub-networks briefly, in a serial manner. Thus, while the full network cannot be observed simultaneously at any given time, we may be able to observe most of it during the entire experiment. Using a generalized linear model for a spiking recurrent neural network, we develop scalable approximate Bayesian methods to perform network inference given this type of data, in which only a small fraction of the network is observed in each time bin. We demonstrate in simulation that, using this method: (1) The shotgun experimental design can eliminate the biases induced by common input effects. (2) Networks with thousands of neurons, in which only a small fraction of the neurons is observed in each time bin, could be quickly and accurately estimated. (3) Performance can be improved if we exploit prior information about the probability of having a connection between two neurons, its dependence on neuronal cell types (e.g., Dale's law), or its dependence on the distance between neurons.

연구 동기 및 목표

• 관측되지 않은 뉴런으로 인해 발생하는 가짜 상관관계가 직접 연결으로 오해되는 공통 입력 문제를 해결하기 위해.
• 동시 관측이 제한된 뉴런 집단에 대해서도 신뢰할 수 있는 추론이 가능하도록 하는 실험 설계를 개발하기 위해.
• 샷건 샘플링 프레임워크 하에서 고차원적이고 부분적으로 관측된 스파이킹 네트워크 데이터를 다룰 수 있는 확장 가능한 통계적 방법을 개발하기 위해.
• 소수의 뉴런만 관측되는 시간 간격에서 진정한 연결성을 얼마나 잘 복원할 수 있는지 평가하기 위해.

제안 방법

• 각 시간 포인트에서 뉴런의 소수의 무작위 선택된 부분집합만 관측되며, 실험 전반에 걸쳐 전체 네트워크가 커버되도록 하는 '샷건' 실험 설계를 제안한다.
• 반복 신경망에서의 스파이킹 활동과 연결성을 모델링하기 위해 일반선형모형(GLM) 프레임워크를 사용한다.
• 관측되지 않은 스파이크와 잠재적 네트워크 구조를 다룰 수 있도록 확장 가능한 근사 베이지안 추론 기법—특히 변분 베이즈(VB), 기대값 최대화(EM), 마르코프 체인 몬테카를로(MCMC)—을 개발한다.
• 희소 추정과 델라의 법칙, 거리에 기반한 연결성 등의 생물학적 제약 조건을 통합하기 위해 시냅스 가중치에 스파이크 및 슬래브 사전분포를 적용한다.
• 스파이크와 가중치의 후행분포를 인수분해된 근사로 사용하는 평균장 변분 추론을 적용하여 MCMC보다 빠른 계산을 가능하게 한다.
• 뉴런의 세포 유형이나 공간적 근접성에 기반한 연결 가능성 사전 지식을 모델에 통합하여 추론 정확도를 향상시킨다.

실험 결과

연구 질문

• RQ1 시리얼 방식으로 관측되는 겹치는 부분 네트워크를 활용하는 샷건 샘플링 전략이, 관측되지 않은 공통 입력으로 인한 편향을 효과적으로 줄일 수 있는가?
• RQ2 한 시간 간격당 소수의 뉴런만 관측되는 경우에도 대규모 스파이킹 네트워크(예: 수천 개의 뉴런)에서 연결성이 얼마나 정확하게 추론될 수 있는가?
• RQ3 세포 유형이나 거리와 같은 생물학적 사전 지식을 부분 관측 조건에서 모델에 통합할 경우 연결성 추정 성능에 얼마나 기여하는가?
• RQ4 VB, EM, MCMC와 같은 다양한 근사 베이지안 추론 방법이 이와 같은 부분 관측 네트워크 데이터에 대해 성능과 확장성 측면에서 어떻게 비교되는가?
• RQ5 실제 시뮬레이션 환경에서 공통 입력 효과를 忽시하는 단순 연결성 추정기법에 비해 제안된 방법이 우월한 성능을 보일 수 있는가?

주요 결과

• 샷건 실험 설계는 공통 입력 효과로 인한 편향을 성공적으로 제거하여, 관측되지 않은 뉴런으로 인한 간접적 상관관계와 직접 연결을 명확히 구분한다.
• 이 방법은 한 시간 간격당 관측되는 뉴런 수가 매우 적은 경우(예: 30% 미만)에도 수천 개의 뉴런을 포함하는 스파이킹 반복 네트워크에서 정확한 연결성 추론을 가능하게 한다.
• 세포 유형(Dale의 법칙)이나 공간적 거리와 같은 사전 지식을 모델에 통합할 경우 성능 향상이 뚜렷하게 나타난다.
• 변분 베이즈(VB) 방법은 MCMC보다 계산 속도가 빠르지만, 한 시간 간격당 관측되는 뉴런 수가 30% 미만일 경우 스파이크 상관관계를 정확히 근사하지 못해 가중치 복원에 실패한다.
• MCMC와 EM 방법은 낮은 관측 조건에서 VB보다 더 뛰어난 성능을 보이며, MCMC는 누락된 스파이크 쌍에 더 강건한 편이다.
• 제안된 프레임워크는 현실적인 실험 제약 조건 하에서 부분 관측이 이루어지는 대규모 신경망 추론에 대해 확장 가능하고 효과적이다.