[论文解读] Neural Kalman Filtering

Beren Millidge, Alexander Tschantz+2 more|arXiv (Cornell University)|Feb 19, 2021

Neural dynamics and brain function参考文献 40被引用 10

一句话总结

该论文提出了一种基于梯度下降近似的生物可实现神经实现方法，用于卡尔曼滤波，实现了局部的、基于方差加权的预测误差计算以及赫布可塑性，从而实现动力学模型的在线学习。在模拟追踪任务中，该方法迅速收敛至精确的卡尔曼滤波性能，为大脑中的贝叶斯滤波提供了一种神经可实现的框架。

ABSTRACT

The Kalman filter is a fundamental filtering algorithm that fuses noisy sensory data, a previous state estimate, and a dynamics model to produce a principled estimate of the current state. It assumes, and is optimal for, linear models and white Gaussian noise. Due to its relative simplicity and general effectiveness, the Kalman filter is widely used in engineering applications. Since many sensory problems the brain faces are, at their core, filtering problems, it is possible that the brain possesses neural circuitry that implements equivalent computations to the Kalman filter. The standard approach to Kalman filtering requires complex matrix computations that are unlikely to be directly implementable in neural circuits. In this paper, we show that a gradient-descent approximation to the Kalman filter requires only local computations with variance weighted prediction errors. Moreover, we show that it is possible under the same scheme to adaptively learn the dynamics model with a learning rule that corresponds directly to Hebbian plasticity. We demonstrate the performance of our method on a simple Kalman filtering task, and propose a neural implementation of the required equations.

研究动机与目标

• 开发一种避免复杂矩阵运算且符合生物约束的卡尔曼滤波神经实现。
• 证明卡尔曼滤波的梯度下降近似可实现局部、简单的计算，适用于神经回路。
• 推导一种赫布学习规则，用于在滤波过程中自适应学习动力学模型。
• 在追踪任务中展示所提方法收敛至精确卡尔曼滤波器的性能。
• 将卡尔曼滤波定位为分层皮层处理中用于噪声抑制和传感器融合的潜在低层构建模块。

提出的方法

• 推导一种卡尔曼滤波的梯度下降近似，用局部的、基于方差加权的预测误差更新替代矩阵求逆和卡尔曼增益计算。
• 使用具有局部突触权重的速率编码积分-发放神经元实现状态估计和误差校正。
• 利用预测误差同时驱动状态更新和突触可塑性，权重通过从梯度下降框架推导出的赫布规则进行更新。
• 将动力学矩阵和观测矩阵建模为通过相同梯度学习规则更新的可学习参数。
• 构建一种神经架构，包含独立的状态估计、感官预测和预测误差神经元群，通过前向和反馈通路连接。
• 通过将计算限制为局部线性操作和乘法性突触权重来强制实现生物合理性，尽管承认在连接模式上存在局限性。

实验结果

研究问题

• RQ1 能否通过梯度下降近似实现卡尔曼滤波，以在神经回路中实现局部的、生物可实现的计算？
• RQ2 相同的梯度框架能否支持通过类似赫布的可塑性规则实现动力学模型的在线学习？
• RQ3 在标准滤波任务中，所提出的神经实现方法在多大程度上收敛至精确的卡尔曼滤波器？
• RQ4 哪些关键的架构和计算约束限制了该实现的生物合理性？
• RQ5 卡尔曼滤波能否作为分层皮层架构中用于感觉运动整合的低层、可组合的处理单元？

主要发现

• 所提出的梯度下降近似在模拟追踪任务中迅速收敛至精确的卡尔曼滤波解，性能与解析解一致。
• 该方法用局部的、基于方差加权的预测误差和替代了计算昂贵的矩阵运算，使神经实现更加简单。
• 从梯度框架推导出的赫布可塑性规则即使在初始化为高斯噪声时，也能成功学习动力学模型。
• 神经架构使用速率编码的积分-发放神经元，通过共享的计算原理同时支持状态估计和自适应学习。
• 尽管存在一些非生物的假设（如全连接性和对称的前向/后向权重），该模型在生物可实现的约束下仍表现出稳健性能。
• 结果表明，卡尔曼滤波可作为分层皮层回路中用于噪声抑制和状态估计的基础性低层处理模块。