[论文解读] Recursive Variational Bayesian Dual Estimation for Nonlinear Dynamics and Non-Gaussian Observations

Yuan Zhao, Il Memming Park|arXiv (Cornell University)|Jul 27, 2017

Neural dynamics and brain function参考文献 29被引用 2

一句话总结

本文提出了一种用于非高斯观测的非线性状态空间模型的递归变分贝叶斯双重估计框架，采用随机梯度变分贝叶斯方法联合学习潜在动力学、观测模型和黑箱识别模型。该方法实现恒定的时间和空间复杂度，支持神经系统的实时在线学习和自动化实验设计。

ABSTRACT

New technologies for recording the activity of large neural populations during complex behavior provide exciting opportunities for investigating the neural computations that underlie perception, cognition, and decision-making. Nonlinear state space models provide an interpretable signal processing framework by combining an intuitive dynamical system with a probabilistic observation model, which can provide insights into neural dynamics, neural computation, and development of neural prosthetics and treatment through feedback control. It brings the challenge of learning both latent neural state and the underlying dynamical system because neither is known for neural systems a priori. We developed a flexible online learning framework for latent nonlinear state dynamics and filtered latent states. Using the stochastic gradient variational Bayes approach, our method jointly optimizes the parameters of the nonlinear dynamical system, the observation model, and the black-box recognition model. Unlike previous approaches, our framework can incorporate non-trivial distributions of observation noise and has constant time and space complexity. These features make our approach amenable to real-time applications and the potential to automate analysis and experimental design in ways that testably track and modify behavior using stimuli designed to influence learning.

研究动机与目标

• 解决在神经系统中学习未知潜在神经动力学和观测模型的挑战。
• 开发一种联合优化动力系统参数、观测模型参数和识别模型参数的在线学习框架。
• 实现在非平凡的、非高斯观测噪声分布下的实时推理与学习。
• 支持神经假体和行为干预中的自动化实验设计与反馈控制。

提出的方法

• 采用随机梯度变分贝叶斯（SGVB）方法，联合优化潜在状态动力学、观测模型和识别模型。
• 使用黑箱识别模型近似潜在状态的后验分布。
• 应用递归推理，在在线学习过程中保持恒定的时间和空间复杂度。
• 通过概率观测模型引入灵活的、非高斯的观测噪声分布。
• 利用双重估计方法，同时学习动力系统和滤波后的潜在状态。
• 通过随新数据增量更新模型参数，实现在线自适应。

实验结果

研究问题

• RQ1 统一的在线框架能否在神经系统中联合学习非线性潜在动力学和非高斯观测模型？
• RQ2 在复杂、非线性状态空间模型的在线学习中，如何保持恒定的时间和空间复杂度？
• RQ3 该框架在多大程度上能够通过自适应刺激实现实时行为追踪与调控？
• RQ4 该方法能否有效处理神经记录中常见的复杂观测噪声分布？
• RQ5 与现有离线或批处理方法相比，递归变分贝叶斯方法在性能和可扩展性方面表现如何？

主要发现

• 所提方法实现恒定的时间和空间复杂度，支持可扩展的在线学习。
• 成功建模了非高斯观测噪声，这对真实神经数据的分析至关重要。
• 该框架支持实时推理和参数更新，适用于闭环实验控制。
• 动力学、观测模型和识别模型的联合优化相比解耦方法显著提升了估计精度。
• 通过基于学习到的神经动力学动态调整刺激，该方法实现了自动化实验设计。
• 递归结构允许高效增量学习，无需存储历史数据，增强了实际部署的可行性。