[论文解读] Non-parametric generalized linear model

Matthew Dowling, Yuan Zhao+1 more|arXiv (Cornell University)|Sep 2, 2020

Gaussian Processes and Bayesian Inference参考文献 18被引用 4

一句话总结

该论文提出了一种非参数广义线性模型（NPGLM），采用稀疏变分高斯过程联合推断神经元脉冲发放序列分析中的时间滤波器与超参数，避免了手动选择基函数的需要。该方法通过自动学习滤波器的持续时间与形状，在计算效率和泛化能力方面表现出色，在模拟数据和真实视网膜数据上均取得了优异性能。

ABSTRACT

A fundamental problem in statistical neuroscience is to model how neurons encode information by analyzing electrophysiological recordings. A popular and widely-used approach is to fit the spike trains with an autoregressive point process model. These models are characterized by a set of convolutional temporal filters, whose subsequent analysis can help reveal how neurons encode stimuli, interact with each other, and process information. In practice a sufficiently rich but small ensemble of temporal basis functions needs to be chosen to parameterize the filters. However, obtaining a satisfactory fit often requires burdensome model selection and fine tuning the form of the basis functions and their temporal span. In this paper we propose a nonparametric approach for jointly inferring the filters and hyperparameters using the Gaussian process framework. Our method is computationally efficient taking advantage of the sparse variational approximation while being flexible and rich enough to characterize arbitrary filters in continuous time lag. Moreover, our method automatically learns the temporal span of the filter. For the particular application in neuroscience, we designed priors for stimulus and history filters useful for the spike trains. We compare and validate our method on simulated and real neural spike train data.

研究动机与目标

• 为解决广义线性模型（GLMs）在神经元脉冲发放序列分析中手动选择基函数和调整超参数的负担。
• 开发一种非参数贝叶斯方法，利用高斯过程联合推断时间滤波器与超参数。
• 实现在不预设基函数的前提下，自动学习滤波器的时间跨度与平滑性。
• 提升模型的泛化能力与鲁棒性，尤其在低稀疏性或小样本数据场景下。
• 为神经科学应用提供一种计算高效的传统基函数GLM的替代方案。

提出的方法

• 将时间滤波器建模为具有均值函数和核函数的高斯过程（GP）样本路径，实现在连续时间滞后上的非参数推断。
• 采用带诱导点的稀疏变分近似，将计算成本从 O(N³) 降低至 O(M²N)，其中 M ≪ N。
• 采用联合变分推断框架，同时优化高斯过程超参数与诱导点位置。
• 为刺激与历史滤波器施加结构化先验，以适应神经元放电数据，提升可解释性与性能。
• 使用祖先抽样从拟合模型中生成合成脉冲发放序列，用于模型验证。
• 采用归一化的对数似然与发放率的 R² 评估模型在测试与重复刺激上的拟合效果与泛化能力。

实验结果

研究问题

• RQ1 基于非参数高斯过程的方法是否能在建模神经元脉冲发放序列数据方面优于基于基函数的GLM？
• RQ2 该方法是否能在不预设基函数的前提下，自动推断出神经滤波器的时间范围与形状？
• RQ3 当数据稀疏或噪声较大时，NPGLM在泛化性能上表现如何？
• RQ4 使用稀疏变分推断是否在降低计算成本的同时保持了准确性？
• RQ5 该模型能否捕捉到标准基函数难以表达的非平滑或复杂滤波器形状？

主要发现

• 在六个视网膜神经节细胞上，NPGLM 在测试与重复刺激上的归一化对数似然均持续优于 GLM-MLE 与 GLM-ARD。
• 平均而言，NPGLM 在归一化对数似然与发放率预测的 R² 上表现更优，尤其在重复刺激上，表明其泛化能力更强。
• 对于神经元 2，尽管存在非平滑行为的挑战，NPGLM 仍比 GLM-ARD 更好地捕捉到历史滤波器中 10 ms 的陡峭上升。
• 该方法成功推断出与先前 GLM 结果一致的滤波器，同时避免了基函数选择不当导致的欠拟合或过拟合问题。
• 即使仅使用 15–25 个诱导点，NPGLM 也能实现稳健的后验推断与稳定的预测，展现出良好的计算效率。
• 从 NPGLM 进行的祖先抽样生成的脉冲发放序列在光栅图、峰-峰间隔分布与平均发放率方面，与实测数据高度吻合。