[论文解读] Rescuing neural spike train models from bad MLE

Diego M. Arribas, Yuan Zhao+1 more|arXiv (Cornell University)|Oct 23, 2020

Neural dynamics and brain function参考文献 29被引用 5

一句话总结

本论文提出通过使用脉冲发放序列核最小化最大均值差异（MMD），以改进基于自回归神经脉冲发放序列模型的样本质量，解决标准最大似然估计（MLE）导致的不稳定性和长期生成性能差的问题。该方法通过直接优化数据与生成脉冲发放序列之间的相似性来稳定模型，减少自激反应失控现象，并通过核选择和MMD加权实现对关键统计特征的控制。

ABSTRACT

The standard approach to fitting an autoregressive spike train model is to maximize the likelihood for one-step prediction. This maximum likelihood estimation (MLE) often leads to models that perform poorly when generating samples recursively for more than one time step. Moreover, the generated spike trains can fail to capture important features of the data and even show diverging firing rates. To alleviate this, we propose to directly minimize the divergence between neural recorded and model generated spike trains using spike train kernels. We develop a method that stochastically optimizes the maximum mean discrepancy induced by the kernel. Experiments performed on both real and synthetic neural data validate the proposed approach, showing that it leads to well-behaving models. Using different combinations of spike train kernels, we show that we can control the trade-off between different features which is critical for dealing with model-mismatch.

研究动机与目标

• 解决通过标准MLE训练的自回归神经脉冲发放序列模型中存在的不稳定性及长期样本生成性能差的问题。
• 开发一种通过直接最小化数据与生成脉冲发放序列之间差异来提升模型样本质量的方法。
• 通过核选择和MMD加权，实现对模型所捕捉的统计特征（如放电率、ISI分布）的控制。
• 提供一种灵活且可解释的替代似然训练方法，以增强模型稳定性与模拟可靠性。
• 将机器学习中的生成建模原理扩展至神经科学模型，特别是点过程GLM。

提出的方法

• 使用脉冲发放序列核定义最大均值差异（MMD）目标，以度量经验数据与模型生成脉冲发放序列之间的统计差异。
• 采用随机优化方法最小化MMD，通过得分函数估计器对可微核进行梯度估计。
• 引入结合MLE与MMD的混合目标函数，以平衡似然与样本质量，其中MMD权重α控制权衡。
• 应用基于GLM历史项（如时间自相关）的模型基核，以捕捉脉冲发放序列统计的动态特征。
• 使用祖先采样生成长序列，并通过平均放电率、ISI变异系数（CV）和自相关等指标评估模型性能。
• 每种核重复20次优化以评估结果的变异性与鲁棒性。

实验结果

研究问题

• RQ1 与标准MLE相比，使用脉冲发放序列核最小化MMD是否能提升自回归脉冲发放序列模型的长期稳定性？
• RQ2 基于MMD的优化如何影响关键统计特征（如峰-峰间隔分布和放电率）？
• RQ3 是否可使用不同的脉冲发放序列核来优先生成特定特征（如平均放电率与自相关性）？
• RQ4 MMD正则化在多大程度上减少了模型生成脉冲发放序列中的自激反应失控现象？
• RQ5 MMD权重α是否可用于控制模型训练中似然与样本质量之间的权衡？

主要发现

• MLE在训练和验证集上获得了较高的对数似然，但在4.4%的试验中生成的脉冲发放序列出现放电率发散，原因在于自激反应失控。
• 所有MMD优化模型显著降低了自激反应失控的概率，其中模型5在20次优化中均实现0%的发散率。
• 模型2（使用高斯平滑脉冲发放序列特征映射）的验证对数似然高于MLE，表明MMD起到了正则化作用。
• MMD优化模型比MLE更准确地捕捉了峰-峰间隔分布的均值与变异系数（CV）。
• 模型3（使用平均历史项作为特征映射）稳定性最差，中位数仅0.1%的样本出现发散，但仍优于MLE的样本质量。
• 提高MMD权重α可进一步降低发散风险，表明通过超参数调节能有效控制模型行为。