[論文レビュー] Variational online learning of neural dynamics

Yuan Zhao, Il Memming Park|arXiv (Cornell University)|Jul 27, 2017

Neural dynamics and brain function参考文献 65被引用数 5

ひとこと要約

本稿では、ストリーミング神経データから非線形ニューラルダイナミクスと潜在状態を同時に推定するための変分オンライン学習フレームワーク、Variational Joint Filtering (VJF) を提案する。確率的勾配変分ベイズを用いることで、VJF はリアルタイムかつ定数時間・空間計算量で、動的モデルおよび観測モデルの両方の学習を可能にし、柔軟なノイズモデルを用いた複雑で周期的な神経ダイナミクスのフィッティングにおいて、既存手法を上回る性能を発揮する。

ABSTRACT

New technologies for recording the activity of large neural populations during complex behavior provide exciting opportunities for investigating the neural computations that underlie perception, cognition, and decision-making. Nonlinear state space models provide an interpretable signal processing framework by combining an intuitive dynamical system with a probabilistic observation model, which can provide insights into neural dynamics, neural computation, and development of neural prosthetics and treatment through feedback control. It brings the challenge of learning both latent neural state and the underlying dynamical system because neither is known for neural systems a priori. We developed a flexible online learning framework for latent nonlinear state dynamics and filtered latent states. Using the stochastic gradient variational Bayes approach, our method jointly optimizes the parameters of the nonlinear dynamical system, the observation model, and the black-box recognition model. Unlike previous approaches, our framework can incorporate non-trivial distributions of observation noise and has constant time and space complexity. These features make our approach amenable to real-time applications and the potential to automate analysis and experimental design in ways that testably track and modify behavior using stimuli designed to influence learning.

研究の動機と目的

• 高次元のストリーミング神経データから非線形神経ダイナミクスをリアルタイムでオンライン学習すること。
• 事前知識なしに、潜在神経状態とその背後にある非線形ダイナミカルシステムのパラメータを同時に推定すること。
• オフライン手法および近似ベイジアンフィルタの時間的依存性の扱いや任意の観測ノイズの処理における制限を克服すること。
• 適応的でリアルタイムの解析と刺激設計を可能にするために、クローズドループ神経生理学的実験を支援すること。
• 神経集団活動における固定点、極限円周、アトラクタといった動的特徴を同定する解釈可能なフレームワークを提供すること。

提案手法

• 非線形ダイナミカルシステム、観測モデル、ブラックボックス認識モデルのパラメータを同時に最適化するために、確率的勾配変分ベイズ（SGVB）を採用する。
• 非線形ダイナミクス $ \dot{\vx} = F_\theta(\vx, \vu) $ を持つ連続時間状態空間モデルを用い、離散化して $ \vx_{t+1} = f_\theta(\vx_t, \vu_t) + \boldsymbol{\epsilon}_t $ とする。
• 非線形ダイナミクスのパラメータ化にラジアルベース関数（RBF）ネットワークを適用し、速度場の滑らかで正則化された近似を可能にする。
• ガウス分布やポisson分布などの柔軟な観測モデルを組み込み、神経記録における非自明なノイズ分布に対応する。
• オンライン最適化と認識ネットワークによるアンモアタイズド推論を用いることで、各時刻における時間的・空間的計算量を定数に維持する。
• 微分可能なハイパーパrameterと、次元削減を用いた適応的初期化（例：次元削減による）を活用し、収束性とロバスト性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 完全にオンラインで、変分推論フレームワークとして、ストリーミングデータから非線形神経ダイナミクスと潜在状態を、定数計算コストで同時に学習できるか？
• RQ2 本手法は、合成および実際の神経データから、極限円周や固定点といった複雑な動的特徴をどれほど正確に回復できるか？
• RQ3 任意の観測ノイズを持つ神経ダイナミクスのフィッティングにおいて、既存のオフラインおよび近似オンライン手法を上回るか？
• RQ4 本フレームワークは、クローズドループ神経生理学的実験や適応的実験設計といったリアルタイム応用をサポートできるか？
• RQ5 RBFの数やネットワークの深さといったハイパーパrameterの選択に対して、本手法はどれほどロバストか？

主な発見

• VJF は複数の合成データセットにおいて一貫した性能を示し、周期的ダイナミクスおよび極限円周のような動的特徴を正確に回復した。
• 次元削減を用いたウォームスタート初期化により、ランダム初期化よりも収束が速く、対数尤度およびELBO値が高くなった。
• 本手法は各時刻における時間的・空間的計算量を定数に維持し、ストリーミング神経データへのリアルタイムデプロイメントを可能にした。
• 合成および実際の神経データにおいて、最新の手法を上回る適合度指標（対数尤度およびELBO）を達成した。
• 非線形的かつ非ガウス的なダイナミクスであっても、固定点やアトラクタといった解釈可能な動的特徴を正確に同定できた。
• RBFの数やネットワークの深さといった重要なハイパーパラメータの摂動に対しても、本手法はロバストであり、結果の定性的な変化は最小限に抑えられた。