[논문 리뷰] Fast amortized inference of neural activity from calcium imaging data with variational autoencoders

Artur Speiser, Jinyao Yan외 4명|arXiv (Cornell University)|2017. 11. 06.

Neural dynamics and brain function참고 문헌 25인용 수 23

한 줄 요약

이 논문은 신경 시냅스 전위를 칼슘 영상 데이터로부터 빠르고 효율적으로 추론할 수 있도록 하는 변분 오토에인코드르 기반 프레임워크인 DeepSpike를 소개한다. 이는 인식 네트워크를 학습시켜 시냅스 전위의 사후 분포를 근사함으로써, 단일 순방향 전파를 통해 추론을 수행함으로써 빠른 추론을 가능하게 한다. 이 방법은 상태 기반의 빠른 속도를 달성하면서도 높은 정확도 유지를 하고 있으며, 복잡한 작업인 분지 영상에서의 전도 전위와 시냅스 입력을 분리하는 데에도 사후 분포 추정이 가능하다.

ABSTRACT

Calcium imaging permits optical measurement of neural activity. Since intracellular calcium concentration is an indirect measurement of neural activity, computational tools are necessary to infer the true underlying spiking activity from fluorescence measurements. Bayesian model inversion can be used to solve this problem, but typically requires either computationally expensive MCMC sampling, or faster but approximate maximum-a-posteriori optimization. Here, we introduce a flexible algorithmic framework for fast, efficient and accurate extraction of neural spikes from imaging data. Using the framework of variational autoencoders, we propose to amortize inference by training a deep neural network to perform model inversion efficiently. The recognition network is trained to produce samples from the posterior distribution over spike trains. Once trained, performing inference amounts to a fast single forward pass through the network, without the need for iterative optimization or sampling. We show that amortization can be applied flexibly to a wide range of nonlinear generative models and significantly improves upon the state of the art in computation time, while achieving competitive accuracy. Our framework is also able to represent posterior distributions over spike-trains. We demonstrate the generality of our method by proposing the first probabilistic approach for separating backpropagating action potentials from putative synaptic inputs in calcium imaging of dendritic spines.

연구 동기 및 목표

• 반복적 추론에 의존하지 않고도 빠르고 확장 가능하며 유연한 방법을 개발하여 칼슘 영상 데이터로부터 신경 시냅스 전위를 추론하는 것.
• 생성 모델링(사전 지식, 비지도 학습)의 장점을 변분 추론를 통한 추론의 빠름과 효율성과 융합하여, 추론의 효율성을 높이는 것.
• 시간적 상관관계를 포함한 시냅스 전위의 전체 사후 분포 추정을 정확하게 수행하는 것, 단순한 시점별 발화 빈도 예측을 넘어서는 것.
• 분지 영상에서 전도 전위와 국소적 시냅스 입력을 분리하는 것과 같은 복잡한 추론 작업에 프레임워크를 확장하는 것.
• 모델에 특화된 알고리즘 수정 없이도 다양한 칼슘 동역학 생성 모델에 적용 가능한 일반 목적의 추론 프레임워크를 구축하는 것.

제안 방법

• 프레임워크는 시냅스 전위의 사후 분포를 근사하는 스토케스틱 인식 네트워크를 갖춘 변분 오토에인코드르(VAE)를 사용한다. 이는 광학적 형광 신호에 기반하여 시냅스 전위의 사후 분포를 추정한다.
• 인식 네트워크는 깊이 있는 다중 스트림 아키텍처로 구성되어 있으며, 1차원 컨volution 신경망(CNN)을 통해 특징 추출을 수행하고, 시간 순방향과 역방향으로 각각 작동하는 두 개의 순환 신경망(RNN)을 통해 장거리 시간적 맥락을 포착한다.
• 모델은 스토케스틱 변분 추론(SVI)을 사용하여 엔드 투 엔드로 학습되며, 인식 네트워크는 형광 신호 데이터를 입력으로 받아 시냅스 전위의 근사 사후 표본을 생성하도록 학습된다.
• 테스트 시 추론은 추론 비용을 줄이는 방식으로 수행된다: 학습이 완료된 후에는 인식 네트워크를 한 번의 순방향 전파만으로 시냅스 전위 추론이 가능해지며, 반복 최적화나 MCMC 샘플링이 필요로 하지 않는다.
• 이 프레임워크는 시간적 상관관계를 포함한 전체 사후 분포 근사를 지원하며, 다중 모odal 또는 다중 구성 요소 추론 작업으로도 확장 가능하다.
• 이 방법은 시뮬레이션된 데이터와 실제 칼슘 영상 데이터(분지 스파인 기록 포함)에 적용되어, 전도 전위와 시냅스 입력을 분리하는 데 성공했다.

실험 결과

연구 질문

• RQ1 학습된 인식 네트워크를 통한 추론 비용을 줄이는 방식이 기존의 MCMC나 MAP 최적화에 비해 더 빠르고 경쟁력 있는 시냅스 전위 추론을 달성할 수 있는가?
• RQ2 재학습 없이도 다양한 신경 세포 집단과 영상 조건에 걸쳐 공통의 인식 모델이 일반화될 수 있는가?
• RQ3 이 프레임워크는 시간적 의존성을 포함한 전체 사후 분포 추정을 정확하게 수행할 수 있는가, 아니면 단순한 시점별 발화 빈도 예측을 넘어서는가?
• RQ4 이 방법은 분지 칼슘 영상에서 전도 전위와 국소적 시냅스 입력을 분리하는 것과 같은 복잡한 추론 문제로 확장될 수 있는가?
• RQ5 이 접근 방식은 다양한 칼슘 동역학 생성 모델에 대해 높은 정확도를 유지하면서도 실시간 또는 피드백 루프 응용에 적합한가?

주요 결과

• 제안된 방법은 학습 후 단일 순방향 전파만으로도 상태 기반의 최고 수준의 계산 속도를 달성하여 반복 최적화나 MCMC 샘플링이 필요로 하지 않는다.
• 시뮬레이션 데이터에서, 이 방법은 소마틱 시냅스 전위 추론에 평균 상관계수 0.84, 분지 시냅스 전위 추론에 0.78를 기록했으며, Foopsi-RR 기준선(각각 0.66 및 0.60)을 초월했다.
• 인식 네트워크는 시간에 따른 사후 상관관계를 성공적으로 모델링하여, 단순한 시점별 발화 빈도 예측을 넘어서 전체 사후 분포 추정이 가능해졌다.
• 이 프레임워크는 분지 영상에서 전도 전위와 시냅스 입력을 정확하게 분리할 수 있었으며, 이는 이전에 확률적 해결책이 없었던 작업이다.
• 학습된 인식 모델은 다양한 세포 유형과 영상 모odal리티에 걸쳐 일반화되었으며, 재학습 없이도 새로운 유사한 데이터셋에 적용 가능했다.
• 빠른 추론 속도와 테스트 시 낮은 계산 비용 덕분에 이 방법은 실시간 또는 피드백 루프 응용에 적합한 확장성 있는 방법이다.