[论文解读] Understanding Neural Coding on Latent Manifolds by Sharing Features and Dividing Ensembles

Martin Bjerke, Lukas Schott+4 more|Cold Spring Harbor Laboratory Institutional Repository (Cold Spring Harbor Laboratory)|Oct 6, 2022

Neural dynamics and brain function被引用 5

一句话总结

本文提出了一种可微分的、可解释的神经潜在变量模型，通过在神经元之间共享调谐曲线特征，并通过软聚类实现无监督集成检测，从而在潜在流形上改进神经编码。该方法实现了更优的性能和更好的优化，成功从真实神经数据中恢复出不同的网格细胞集成和环面状潜在结构，并准确预测调谐曲线。

ABSTRACT

Systems neuroscience relies on two complementary views of neural data, characterized by single neuron tuning curves and analysis of population activity. These two perspectives combine elegantly in neural latent variable models that constrain the relationship between latent variables and neural activity, modeled by simple tuning curve functions. This has recently been demonstrated using Gaussian processes, with applications to realistic and topologically relevant latent manifolds. Those and previous models, however, missed crucial shared coding properties of neural populations. We propose feature sharing across neural tuning curves which significantly improves performance and helps optimization. We also propose a solution to the ensemble detection problem, where different groups of neurons, i.e., ensembles, can be modulated by different latent manifolds. Achieved through a soft clustering of neurons during training, this allows for the separation of mixed neural populations in an unsupervised manner. These innovations lead to more interpretable models of neural population activity that train well and perform better even on mixtures of complex latent manifolds. Finally, we apply our method on a recently published grid cell dataset, and recover distinct ensembles, infer toroidal latents and predict neural tuning curves in a single integrated modeling framework.

研究动机与目标

• 解决现有神经潜在变量模型中缺乏共享编码特性的问题，该问题限制了性能和可解释性。
• 通过实现对由不同潜在流形调制的神经元群的无监督识别，解决集成检测问题。
• 通过使用参数化调谐曲线解码器保持生物学可解释性，同时确保端到端可微分性以实现有效训练。
• 在建模复杂且混合的潜在流形（如网格细胞群体中的流形）时，提升优化和泛化能力。
• 提供一个统一框架，从真实神经数据中同时恢复潜在拓扑结构和神经调谐曲线。

提出的方法

• 采用类似变分自编码器的架构，包含深度神经网络编码器和可微分的参数化调谐曲线解码器。
• 在解码器中引入特征共享，即在神经元之间共享调谐曲线特征基，以提升泛化能力和性能。
• 在训练过程中实施神经元的软聚类，将每个神经元分配给一个或多个潜在流形，从而实现无监督集成检测。
• 使用泊松似然和高斯过程启发的调谐曲线，对从潜在变量到神经放电活动的映射进行建模。
• 在测试时采用混合推理策略，结合变分后验和确定性推理，以提高预测准确性。
• 通过在500种配置上进行随机搜索，执行超参数搜索以优化模型性能。

实验结果

研究问题

• RQ1 在神经调谐曲线之间共享特征是否能提升神经潜在变量模型的性能和优化？
• RQ2 无监督软聚类是否能实现对由不同潜在流形调制的独立神经元群的检测？
• RQ3 共享特征与集成检测的整合是否能更优地恢复复杂潜在拓扑结构，例如网格细胞中的环面状流形？
• RQ4 该模型是否能高精度地联合预测神经调谐曲线并从真实神经数据中推断潜在结构？
• RQ5 与标准变分推理相比，测试时的混合推理策略如何影响预测性能？

主要发现

• 特征共享显著提升了模型性能，最佳性能变体（fae-b）在包含45个神经元和1000个时间点的合成数据上实现了8267的平均负对数似然（NLLH）。
• 测试时的混合推理策略在所有配置下均带来显著性能提升，相比标准变分推理，有效降低了NLLH和测地线误差。
• 该模型成功从真实网格细胞数据集中恢复出不同的神经元集成，识别出具有不同空间分辨率编码特性的模块。
• 该方法推断出的环面状潜在流形与已知的网格细胞组织结构一致，验证了其生物学合理性。
• 超参数分析表明，较低的学习率、较大的批量大小以及降低的KL权重可提升性能，而学习方差的增加则能提高预测准确性。
• 在最佳配置下，该模型的测地线误差为0.05，表明潜在空间重构具有高精度。