[论文解读] Flexible statistical inference for mechanistic models of neural dynamics

Jan-Matthis Lueckmann, Pedro J. Gonçalves+4 more|arXiv (Cornell University)|Nov 6, 2017

Markov Chains and Monte Carlo Methods参考文献 44被引用 96

一句话总结

本文提出 Sequential Neural Posterior Estimation（SNPE），这是一种无似然性贝叶斯方法，使用贝叶斯混合密度网络来从数据中推断神经元模型参数的完整后验分布，能够处理缺失/异常的仿真并通过 RNN 从时间序列中学习特征。

ABSTRACT

Mechanistic models of single-neuron dynamics have been extensively studied in computational neuroscience. However, identifying which models can quantitatively reproduce empirically measured data has been challenging. We propose to overcome this limitation by using likelihood-free inference approaches (also known as Approximate Bayesian Computation, ABC) to perform full Bayesian inference on single-neuron models. Our approach builds on recent advances in ABC by learning a neural network which maps features of the observed data to the posterior distribution over parameters. We learn a Bayesian mixture-density network approximating the posterior over multiple rounds of adaptively chosen simulations. Furthermore, we propose an efficient approach for handling missing features and parameter settings for which the simulator fails, as well as a strategy for automatically learning relevant features using recurrent neural networks. On synthetic data, our approach efficiently estimates posterior distributions and recovers ground-truth parameters. On in-vitro recordings of membrane voltages, we recover multivariate posteriors over biophysical parameters, which yield model-predicted voltage traces that accurately match empirical data. Our approach will enable neuroscientists to perform Bayesian inference on complex neuron models without having to design model-specific algorithms, closing the gap between mechanistic and statistical approaches to single-neuron modelling.

研究动机与目标

• 说明使用无似然推断来识别能够再现经验数据的机理神经元模型。
• 开发 SNPE，通过仿真学习模型参数的灵活后验分布。
• 处理实际问题，如缺失特征和失败的仿真，以及缺失数据情景。
• 利用循环网络自动从时间序列数据中学习有信息量的特征。
• 在合成基准和真实神经元数据上证明有效性，以连接机理建模与统计建模。

提出的方法

• 提出 Sequential Neural Posterior Estimation (SNPE) 以在给定观测数据时近似参数的后验分布。
• 使用贝叶斯混合密度网络（MDN）来建模后验分布，使用带有重要性加权的损失和校准核进行训练。
• 采用逐轮的序贯方案，其中第 r 轮的后验成为第 r+1 轮的提案先验，实现持续学习。
• 引入分类器以预测可能失败的仿真（坏仿真），并调整先验以避免它们，从而提高效率。
• 通过在 MDN 中加入填充层来处理缺失特征，并扩展模型以通过时间序列从时间序列中直接学习特征（R-MDN）。
• 允许比高斯更灵活的提案，包括多模态后验，并使用随机变分推断在各轮之间训练权重。

实验结果

研究问题

• RQ1 SNPE 是否能够从仿真数据和真实数据中恢复对生物物理神经模型参数的完整后验分布？
• RQ2 与传统的基于似然的方法和其他 ABC 方法相比，SNPE 在准确性、鲁棒性和可扩展性方面对神经动力学模型有何差异？
• RQ3 该方法是否能够有效处理发散或导致缺失特征的仿真，以及是否能够自动学习有信息量的时间序列特征？
• RQ4 将 RNN 引入以学习特征是否能在复杂神经元模型中提高参数可识别性？

主要发现

• SNPE 能在简单的高斯混合和广义线性模型（GLM）上准确恢复真实後验分布，并在这些任务上获得与基于似然的方法相当的参数估计。
• 对于 Hodgkin-Huxley 神经元模型，SNPE 推断出覆盖在接近真实值并产生与数据相似的电压轨迹的 12 个参数的后验分布。
• 与基于遗传算法的拟合方法相比，SNPE 提供的是完整的后验分布，而不仅仅是一个最佳拟合参数集。
• 当提案具有多模态性时，SNPE 仍然鲁棒，并且能够处理传统方法难以处理的不稳定模型情形。
• 用于预测坏仿真的分类器以及对缺失特征的填充机制提高了推断的效率和可靠性。
• 使用 RNN 从完整时间序列学习特征（R-MDN）在出现尖峰时收敛更紧的参数后验，展示了对尖峰相关参数的可辨识性提升。