[论文解读] Linear dynamical neural population models through nonlinear embeddings

Yuanjun Gao, Evan Archer+2 more|arXiv (Cornell University)|May 26, 2016

Neural dynamics and brain function参考文献 28被引用 41

一句话总结

该论文提出 fLDS，一种非线性生成模型，通过允许每个神经元的放电率通过任意非线性函数平滑地依赖于潜在的线性动态状态，从而扩展了线性动态系统（LDS）。采用一种新颖的变分推断方案，结合具有时间相关性的近似后验分布，fLDS 在真实神经数据集上实现了优于最先进模型的预测性能，并提供了更具可解释性的低维表征，同时以更少的潜在维度捕捉了显著更多的变异。

ABSTRACT

A body of recent work in modeling neural activity focuses on recovering low-dimensional latent features that capture the statistical structure of large-scale neural populations. Most such approaches have focused on linear generative models, where inference is computationally tractable. Here, we propose fLDS, a general class of nonlinear generative models that permits the firing rate of each neuron to vary as an arbitrary smooth function of a latent, linear dynamical state. This extra flexibility allows the model to capture a richer set of neural variability than a purely linear model, but retains an easily visualizable low-dimensional latent space. To fit this class of non-conjugate models we propose a variational inference scheme, along with a novel approximate posterior capable of capturing rich temporal correlations across time. We show that our techniques permit inference in a wide class of generative models.We also show in application to two neural datasets that, compared to state-of-the-art neural population models, fLDS captures a much larger proportion of neural variability with a small number of latent dimensions, providing superior predictive performance and interpretability.

研究动机与目标

• 解决线性观测模型在捕捉高维群体数据中复杂神经变异方面的局限性。
• 开发一种灵活的生成模型，保留低维、可解释的潜在空间，同时允许神经响应函数中存在任意平滑非线性。
• 通过使用结构化近似后验的变分推断，实现在非共轭、非线性潜在变量模型中的高效推断，适用于神经动作电位序列。
• 证明即使潜在动力学本身为线性，非线性观测模型也能比线性模型更准确地恢复真实的低维神经动力学。
• 提供一种通用的推断框架，适用于神经数据分析中一大类潜在 LDS 模型。

提出的方法

• 提出 fLDS，一种生成模型，其中每个神经元的放电率被建模为共享的、低维线性动态系统（LDS）状态的任意平滑非线性函数。
• 采用非线性观测模型：$\lambda_{rti} = f_i(\mathbf{z}_{rt})$，其中 $f_i$ 为平滑函数（例如高斯过程或神经网络），$\mathbf{z}_{rt}$ 为潜在状态。
• 开发一种变分推断算法，采用新颖的近似后验分布以捕捉时间上的丰富相关性，从而实现在非共轭模型中的高效推断。
• 采用一种识别模型，利用具有时间依赖性的结构化、连续时间变分分布来近似潜在状态的后验分布。
• 将该框架应用于泊松分布和高斯-拷贝（Gaussian-Copula, GC）噪声模型，以处理放电计数数据中的过度分散和欠分散现象。
• 使用训练/验证集划分进行超参数调优，并通过一步预测负对数似然（NLL）降低来评估预测性能。

实验结果

研究问题

• RQ1 当真实数据生成过程为非线性时，即使潜在动力学是线性的，非线性观测模型是否能提升对低维神经动力学的恢复能力？
• RQ2 fLDS 在真实神经群体数据上的预测性能和可解释变异度是否优于最先进线性模型（如 PLDS、GCLDS）？
• RQ3 fLDS 是否能生成比线性模型更具可解释性和紧凑性的潜在表征，特别是在运动皮层轨迹解码等任务中？
• RQ4 所提出的变分推断方案在拟合具有计数型神经数据的复杂、非共轭潜在 LDS 模型方面是否高效？
• RQ5 为每个神经元引入灵活的非线性响应函数，是否能相比固定线性映射更好地建模神经变异？

主要发现

• 在猕猴中心-外向抓握任务数据上，fLDS 使用 2–3 个潜在维度的预测性能优于使用 10–20 个维度的 PLDS 和 GCLDS，测试数据上的负对数似然（NLL）显著更低。
• 在猕猴运动皮层数据集中，PfLDS（泊松 fLDS）和 GCfLDS（高斯-拷贝 fLDS）使用 2–3 个维度时，其预测似然优于对应线性模型，且后者使用了大得多的潜在维度。
• PfLDS 学习到的 2D 潜在空间清晰地按目标方向分离了抓握轨迹，并按空间目标位置有序排列，展现出高度可解释性。
• 在模拟实验中，fLDS 即使在潜在动力学为线性时，也能成功恢复真实的低维非线性流形，而线性模型则无法捕捉该结构。
• GC 噪声模型在捕捉神经放电计数的欠分散现象方面优于泊松模型，且 GCfLDS 在相同数据上的预测性能优于 PfLDS。
• 所提出的变分推断框架实现了多种模型变体（包括泊松和 GC 似然的 fLDS）的高效训练与推断，并在真实神经数据集上展现出良好的可扩展性。