[論文レビュー] Neural Kalman Filtering

Beren Millidge, Alexander Tschantz+2 more|arXiv (Cornell University)|Feb 19, 2021

Neural dynamics and brain function参考文献 40被引用数 10

ひとこと要約

本稿では、勾配降下近似を用いた生物学的に妥当なニューラル実装としてカルマンフィルタを提案し、局所的で分散重み付きの予測誤差計算とヘブ学習を可能にすることで、動的モデルのオンライン学習が可能になる。シミュレートされた追跡タスクにおいて、正確なカルマンフィルタ性能に迅速に収束することを示しており、脳におけるベイズフィルタリングの神経可算的フレームワークを提供する。

ABSTRACT

The Kalman filter is a fundamental filtering algorithm that fuses noisy sensory data, a previous state estimate, and a dynamics model to produce a principled estimate of the current state. It assumes, and is optimal for, linear models and white Gaussian noise. Due to its relative simplicity and general effectiveness, the Kalman filter is widely used in engineering applications. Since many sensory problems the brain faces are, at their core, filtering problems, it is possible that the brain possesses neural circuitry that implements equivalent computations to the Kalman filter. The standard approach to Kalman filtering requires complex matrix computations that are unlikely to be directly implementable in neural circuits. In this paper, we show that a gradient-descent approximation to the Kalman filter requires only local computations with variance weighted prediction errors. Moreover, we show that it is possible under the same scheme to adaptively learn the dynamics model with a learning rule that corresponds directly to Hebbian plasticity. We demonstrate the performance of our method on a simple Kalman filtering task, and propose a neural implementation of the required equations.

研究の動機と目的

• 複雑な行列演算を回避し、生物学的制約と整合するニューラル実装のカルマンフィルタを開発すること。
• カルマンフィルタの勾配降下近似が、神経回路に適した局所的で単純な計算を可能にすることを示すこと。
• フィルタリング中に動的モデルを適応的に学習するためのヘブ学習則を導出すること。
• 提案手法が追跡タスクにおいて正確なカルマンフィルタに収束することを実証すること。
• カルマンフィルタを、ノイズ低減とセンサフュージョンのための階層的皮質処理における低レベルの構成モジュールとして位置づけること。

提案手法

• 行列逆行列計算とカルマンゲインの計算を、局所的で分散重み付きの予測誤差更新に置き換える勾配降下近似を導出する。
• 局所的シナプス重みを用いたレートコード型積分・放電型ニューロンにより、状態推定と誤差補正を実装する。
• 予測誤差を用いて、状態更新とシナプス可塑性の両方を駆動し、重みは勾配降下フレームワークから導出されたヘブ則に従って更新する。
• 動的モデルと観測行列を、同じ勾配ベースの学習則によって更新可能なパラメータとしてモデル化する。
• 状態推定、感覚的予測、予測誤差のための別々のニューロン集団を含む神経アーキテクチャを構築し、前向およびフィードバック経路で接続する。
• 計算を局所的線形演算と乗法的シナプス重みに制限することで生物学的妥当性を強調するが、接続パターンにおける制限も認識する。

実験結果

リサーチクエスチョン

• RQ1 カルマンフィルタは勾配降下近似によって、神経回路における局所的で生物学的に妥当な計算が可能になるか？
• RQ2 同じ勾配フレームワークが、ヘブ様の可塑性則を介して動的モデルのオンライン学習を可能にするか？
• RQ3 提案手法の神経実装は、標準的なフィルタリングタスクにおいて正確なカルマンフィルタにどの程度収束するか？
• RQ4 この実装の生物学的妥当性を制限する主なアーキテクチャ的および計算的制約は何か？
• RQ5 カルマンフィルタは、感覚運動統合のための階層的皮質アーキテクチャにおける低レベルの、合成可能な処理ユニットとして機能できるか？

主な発見

• 提案された勾配降下近似は、シミュレートされた追跡タスクにおいて正確なカルマンフィルタ解に迅速に収束し、解析的性能と一致する。
• この手法は、計算コストの高い行列演算を、局所的で分散重み付きの予測誤差の和に置き換えることで、より単純な神経実装を可能にする。
• 勾配フレームワークから導出されたヘブ学習則は、初期値がガウスノイズである場合でさえも、動的モデルを効果的に学習する。
• 神経アーキテクチャはレートコード型積分・放電型ニューロンを用い、共通の計算原理を通じて状態推定と適応的学習の両方をサポートする。
• 完全な接続性や前向き・後向き重みの対称性といった、生物学的に非現実的な仮定が一部存在するが、生物学的妥当な制約のもとでモデルは頑健な性能を示す。
• 結果から、カルマンフィルタはノイズ低減と状態推定のための、階層的皮質回路における基盤的で低レベルの処理モジュールとして機能可能であると考えられる。