[논문 리뷰] Synthesizing realistic neural population activity patterns using Generative Adversarial Networks

Manuel Molano‐Mazón, Arno Onken외 2명|arXiv (Cornell University)|2018. 03. 01.

Neural dynamics and brain function참고 문헌 34인용 수 25

한 줄 요약

이 논문은 시간적 및 공간적 상관관계를 데이터로부터 직접 학습함으로써 통계적 가정 없이 실제적인 스파iking 신경망 집단 활동을 합성하는 워셔스타인-GAN의 변종인 Spike-GAN을 소개한다. 이는 첫 번째 및 두 번째 순서 통계를 정확히 재현하고 고차 구조를 근사하며, 최대 엔트로피 및 이분화된 가우시안 모델보다도 융통성과 현실성에서 뛰어나며, 기능 기여도를 위한 해석 가능한 중요도 맵을 제공한다.

ABSTRACT

The ability to synthesize realistic patterns of neural activity is crucial for studying neural information processing. Here we used the Generative Adversarial Networks (GANs) framework to simulate the concerted activity of a population of neurons. We adapted the Wasserstein-GAN variant to facilitate the generation of unconstrained neural population activity patterns while still benefiting from parameter sharing in the temporal domain. We demonstrate that our proposed GAN, which we termed Spike-GAN, generates spike trains that match accurately the first- and second-order statistics of datasets of tens of neurons and also approximates well their higher-order statistics. We applied Spike-GAN to a real dataset recorded from salamander retina and showed that it performs as well as state-of-the-art approaches based on the maximum entropy and the dichotomized Gaussian frameworks. Importantly, Spike-GAN does not require to specify a priori the statistics to be matched by the model, and so constitutes a more flexible method than these alternative approaches. Finally, we show how to exploit a trained Spike-GAN to construct 'importance maps' to detect the most relevant statistical structures present in a spike train. Spike-GAN provides a powerful, easy-to-use technique for generating realistic spiking neural activity and for describing the most relevant features of the large-scale neural population recordings studied in modern systems neuroscience.

연구 동기 및 목표

• 실제 통계를 사전에 특정 통계 기능의 중요성을 지정하지 않고도 일치시키는 유연하고 데이터 기반의 방법을 개발하는 것.
• 최대 엔트로피 및 이분화된 가우시안 프레임워크와 같은 전통적 모델의 한계를 극복하는 것 — 이러한 모델들은 어떤 통계(예: 이원 상관관계)가 중요할지를 명시적으로 가정해야 한다.
• 최신 기록 기술에서 유래한 대규모 복잡한 신경 데이터셋에 적합하도록 딥 제너레이티브 모델링을 GAN을 통해 스케일링하는 것.
• 학습된 생성기에서 유도된 해석 가능한 중요도 맵을 통해 신경 활동의 주요 통계 모티프를 식별하는 것.
• 학습된 활동 구조를 바탕으로 생물학적으로 타당한 자극 패tern을 생성함으로써 클로즈드-루프 신경 간섭을 지원하는 것.

제안 방법

• 시간에 걸쳐 가중치 공유를 통해 시간 역학을 효율적으로 학습할 수 있도록 워셔스타인-GAN(WGAN) 프레임워크를 조정하여 신경 집단 활동을 모델링한다.
• 신경망 간의 밀집 연결 아키텍처와 시간에 공유되는 가중치를 갖는 생성기 네트워크를 설계하여 시공간 상관관계를 유지한다.
• 생성기와 판별기 간의 적대적 훈련을 통해 판별기가 실제와 생성된 스파이크 트레인을 구분하도록 하여 생성기가 현실적인 패턴을 생성하도록 유도한다.
• 생성기의 잠재 공간을 활용하여 잠재 코드를 변형하고 생성된 활동의 변화를 측정함으로써 중요도 맵을 계산하여 핵심 스파이크와 모티프를 식별한다.
• 실제 개의 망막 데이터에 이 방법을 적용하여 첫 번째 및 두 번째 순서 통계를 잘 일치시키고 고차 통계를 근사함을 보였다.
• 통계 일치도와 샘플의 현실성 측면에서 MaxEnt 및 DG 모델과의 성능 비교를 통해 Spike-GAN이 더 뛰어난 융통성과 일반화 능력을 보였다.

실험 결과

연구 질문

• RQ1 딥 제너레이티브 모델인 GAN이 어떤 통계를 일치시켜야 할지 사전 가정 없이 신경 집단 데이터로부터 실제적인 스파이크 활동 패턴을 합성할 수 있는가?
• RQ2 GAN 기반 접근법은 복잡하고 비정상적인 데이터에서 실제 신경 집단 활동의 첫 번째, 두 번째, 그리고 고차 통계적 특징을 얼마나 잘 재현할 수 있는가?
• RQ3 학습된 GAN을 사용하여 생성기에서 파생된 중요도 맵을 통해 중요한 스파이크 모티프와 같은 해석 가능한 특징을 추출할 수 있는가?
• RQ4 GAN 기반 방법은 실제 스파이크 트레인 생성에서 기존의 최대 엔트로피 및 이분화된 가우시안 모델보다 성능이 어떻게 뛰어나게 되는가?
• RQ5 생성된 패턴을 사용하여 클로즈드-루프 신경 간섭을 위한 생물학적으로 타당한 자극 프rotocol를 설계할 수 있는가?

주요 결과

• Spike-GAN은 개의 망막에서 얻은 실제 신경 집단 데이터의 첫 번째 및 두 번째 순서 통계를 높은 정확도로 일치시키는 스파이크 트레인을 성공적으로 생성하였다.
• 학습 중에 명시적으로 모델링하거나 제약을 두지 않았음에도 불구하고, 데이터에 존재하는 고차 통계적 구조를 근사하였다.
• Spike-GAN은 어떤 통계 기능을 일치시켜야 할지를 사전에 지정할 필요가 없기 때문에 MaxEnt 및 DG 모델보다 융통성이 뛰어나다.
• 학습된 생성기에서 유도된 중요도 맵은 데이터 내에서 가장 두드러진 시공간 모티프를 성공적으로 식별하여 핵심 스파이크와 활동 패턴을 강조하였다.
• 이 방법은 목표 자극 프로토콜를 설계하는 데 사용될 수 있는 생물학적으로 현실적인 신경 활동 패턴을 생성할 수 있다.
• 이 접근법은 수십 개의 뉴런으로 구성된 데이터셋에 효과적으로 스케일링되며 딥 러닝의 발전을 활용함으로써 향후 더 큰, 더 복잡한 신경 기록에 적용될 잠재력이 높다.