[논문 리뷰] Learning identifiable and interpretable latent models of high-dimensional neural activity using pi-VAE

Ding Zhou, Xue-Xin Wei|arXiv (Cornell University)|2020. 11. 09.

Neural dynamics and brain function참고 문헌 69인용 수 49

한 줄 요약

pi-VAE는 식별 가능한 VAE 개념을 태스크 변수 조건화와 통합하여 고차원 신경 데이터에서 해석 가능하고 식별 가능한 잠재 구조를 학습해 표준 VAE 및 튜닝 커브 모델 대비 적합도와 잠재 해석 가능성을 향상시킨다.

ABSTRACT

The ability to record activities from hundreds of neurons simultaneously in the brain has placed an increasing demand for developing appropriate statistical techniques to analyze such data. Recently, deep generative models have been proposed to fit neural population responses. While these methods are flexible and expressive, the downside is that they can be difficult to interpret and identify. To address this problem, we propose a method that integrates key ingredients from latent models and traditional neural encoding models. Our method, pi-VAE, is inspired by recent progress on identifiable variational auto-encoder, which we adapt to make appropriate for neuroscience applications. Specifically, we propose to construct latent variable models of neural activity while simultaneously modeling the relation between the latent and task variables (non-neural variables, e.g. sensory, motor, and other externally observable states). The incorporation of task variables results in models that are not only more constrained, but also show qualitative improvements in interpretability and identifiability. We validate pi-VAE using synthetic data, and apply it to analyze neurophysiological datasets from rat hippocampus and macaque motor cortex. We demonstrate that pi-VAE not only fits the data better, but also provides unexpected novel insights into the structure of the neural codes.

연구 동기 및 목표

• 고차원 신경 데이터에 대해 유연성과 해석 가능성을 모두 갖춘 모델의 필요성을 동기화한다.
• 잠재 구조 및 이와 태스크 변수 간의 관계를 함께 모델링하는 생성 프레임워크를 개발한다.
• 라벨 priors와 포아송 관찰 잡음을 도입해 식별 가능성과 해석 가능성을 달성한다.
• pi-VAE가 기반 모델들보다 신경 데이터 세트에서 데이터 적합도와 잠재 구조 해석 가능성을 더 잘 보여준다는 것을 입증한다.

제안 방법

• 정의한다 제너레이티브 모델 p_theta(x,z|u) = p_f(x|z) p_{T,lambda}(z|u).
• 라벨 priors p_{T,lambda}(z|u)를 뒷받침되는 조건부 독립 지수 가족 분포로 모델하고 신경망 매개변수화된 자연 매개변수 lambda(u)로 나타낸다.
• p_f(x|z)를 포아송 관측으로 표현하고 방출률 f(z)가 높은 차원의 출력을 처리하기 위해 일반화된 가역 흐름(GIN)을 통해 구현한다.
• GIN을 확장하여 m차 z에서 n차 x로 매핑하고 f가 단사성이 되게 한다.
• q(z|x,u) ∝ q_phi(z|x) p_{T,lambda}(z|u)인 식별 가능한 VAE 유사 추론 체계를 채택하고, 계산적으로 다룰 수 있도록 정규분포 근사를 사용한다.
• 온화한 조건에서의 식별 가능성을 보이고 합성 데이터와 전기생리학 데이터셋으로 검증한다.

실험 결과

연구 질문

• RQ1 pi-VAE가 태스크 변수를 라벨로 사용하면서 고차원 신경 기록에서 해석 가능하고 식별 가능한 잠재 구조를 회복할 수 있는가?
• RQ2 라벨 priors를 도입하는 것이 표준 VAE나 튜닝 커브 접근법에 비해 모델 적합도와 잠재 해리(disentanglement)를 향상시키는가?
• RQ3 pi-VAE를 사용할 때 실제 신경 데이터에서 어떤 잠재 기하가 등장하는가?
• RQ4 신경 데이터에서 pi-VAE의 디코딩 및 인코딩 성능은 전통적 방법에 비해 어떠한가?

주요 결과

• pi-VAE는 테스트 데이터에서 주변 로그 가능도(marginal log-likelihood)가 더 높게 측정되어 VAE 및 튜닝 커브 모델보다 held-out 신경 데이터에 더 잘 맞춘다.
• pi-VAE는 태스크 관련 변수(예: 도달 방향)를 튜닝 커브 모델보다 더 정확하게 디코드한다, 특히 움직임 초기에.
• pi-VAE의 잠재공간은 방향 정보와 시간 역학을 구분하는 해석 가능한 기하학을 보인다(원숭이 도달 데이터에서 처음 두 잠재 차원은 방향을, 나머지는 궤적 진화를 포착).
• 쥐 CA1 데이터에서 pi-VAE는 궤도 기하학과 방향 분리를 보여주는 잠재 매니폴드를 드러내며, 시퀀스 구조가 theta 리듬(~10 Hz)과 연관되어 있다.
• pi-VAE의 잠재 구조는 다른 방법들(UMAP, PfLDS, LFADS, demixed PCA)보다 더 해석적이고 물리적으로 의미 있다.
• 라벨-prior과 식별 가능 프레임워크는 x,u에 대한 후방 추론 p(z|x,u)를 식별 가능한 변환까지 해석 가능하게 해주어 뇌 코드에 대한 과학적 통찰을 지지한다.