[论文解读] LFADS - Latent Factor Analysis via Dynamical Systems

David Sussillo, Rafał Józefowicz+2 more|arXiv (Cornell University)|Aug 22, 2016

Neural dynamics and brain function参考文献 24被引用 69

一句话总结

LFADS 是一种深度学习框架，通过使用带有循环动力系统的变分自编码器，从高维、单次试验的神经动作电位数据中推断出低维、平滑的潜在动力学。它在重建发放率和潜在轨迹方面优于现有方法，同时还能推断未观测到的输入和初始条件，从而实现无需试验平均的神经回路稳健分析。

ABSTRACT

Neuroscience is experiencing a data revolution in which many hundreds or thousands of neurons are recorded simultaneously. Currently, there is little consensus on how such data should be analyzed. Here we introduce LFADS (Latent Factor Analysis via Dynamical Systems), a method to infer latent dynamics from simultaneously recorded, single-trial, high-dimensional neural spiking data. LFADS is a sequential model based on a variational auto-encoder. By making a dynamical systems hypothesis regarding the generation of the observed data, LFADS reduces observed spiking to a set of low-dimensional temporal factors, per-trial initial conditions, and inferred inputs. We compare LFADS to existing methods on synthetic data and show that it significantly out-performs them in inferring neural firing rates and latent dynamics.

研究动机与目标

• 解决在不依赖试验平均的情况下分析高维、单次试验神经动作电位数据的挑战。
• 推断能够解释跨试验观测到的神经活动的低维、平滑潜在动力学。
• 估计未观测到的驱动神经活动的输入，即使这些输入未被直接测量。
• 提供一个原则性、可微分的框架，将神经数据建模为具有潜在因子和初始条件的非线性动力系统。
• 在重建发放率和潜在轨迹方面优于现有方法，尤其在噪声较大或数据稀疏的条件下。

提出的方法

• LFADS 使用变分自编码器（VAE）架构，结合循环生成网络，将神经动力学建模为非线性动力系统。
• 生成器是一个门控循环单元（GRU），通过从初始条件和推断输入演化隐藏状态，生成平滑的发放率估计。
• 编码器网络使用序列到序列的推理模型，推断潜在因子、初始条件和输入的后验分布。
• 潜在变量包括低维时间因子、每项试验的初始条件以及时变的推断输入，全部采用高斯先验。
• 通过随机反向传播训练模型，以最小化变分下界，包括 KL 散度项以将后验正则化至先验。
• 正则化技术包括权重归一化、输入和前馈连接的 dropout、循环权重的 L2 惩罚，以及梯度裁剪，以提高泛化能力。

实验结果

研究问题

• RQ1 具有循环动力学的深度生成模型是否能比传统方法（如 PSTH 或线性模型）更好地重建单次试验神经动作电位数据？
• RQ2 LFADS 在未直接记录输入的情况下，能在多大程度上推断出驱动神经活动的未观测输入？
• RQ3 LFADS 在存在噪声的情况下，能否从高维神经数据中有效恢复平滑的低维潜在动力学？
• RQ4 与前馈或非动力学模型相比，引入动力系统假设是否能提升神经数据表示的泛化能力和可解释性？
• RQ5 LFADS 是否能有效分离每项试验特有的初始条件与跨试验共享的潜在动力学？

主要发现

• 在合成数据上，LFADS 显著优于现有方法，重建神经发放率的误差更低，且推断的动力学更平滑。
• 即使这些输入在数据中不可直接观测，该模型仍能成功推断出驱动神经活动的未观测输入。
• LFADS 生成了低维、平滑的潜在轨迹，能够捕捉跨试验的共享动力学，从而支持可解释的神经回路分析。
• KL 调度、权重归一化和梯度裁剪等正则化技术的引入，可防止过拟合，提升泛化能力，尤其在试验早期阶段表现更优。
• 通过学习平滑动力学，LFADS 避免了尖锐、高频的发放率估计，表明其对噪声和过拟合具有鲁棒性。
• 模型推断初始条件的能力支持了试验特异性编码，有助于分析行为或任务相关的试验间变异。