[論文レビュー] Recursive Variational Bayesian Dual Estimation for Nonlinear Dynamics and Non-Gaussian Observations

Yuan Zhao, Il Memming Park|arXiv (Cornell University)|Jul 27, 2017

Neural dynamics and brain function参考文献 29被引用数 2

ひとこと要約

本論文は、非ガウス分布の観測を持つ非線形状態空間モデルに対して、再帰的変分ベイズ二重推定フレームワークを提案する。確率的勾配変分ベイズを用いて、潜在的ダイナミクス、観測モデル、ブラックボックス認識モデルを同時に学習する。本手法は定常な時間的・空間的計算量を達成し、神経系におけるリアルタイムのオンライン学習および自動実験設計を可能にする。

ABSTRACT

New technologies for recording the activity of large neural populations during complex behavior provide exciting opportunities for investigating the neural computations that underlie perception, cognition, and decision-making. Nonlinear state space models provide an interpretable signal processing framework by combining an intuitive dynamical system with a probabilistic observation model, which can provide insights into neural dynamics, neural computation, and development of neural prosthetics and treatment through feedback control. It brings the challenge of learning both latent neural state and the underlying dynamical system because neither is known for neural systems a priori. We developed a flexible online learning framework for latent nonlinear state dynamics and filtered latent states. Using the stochastic gradient variational Bayes approach, our method jointly optimizes the parameters of the nonlinear dynamical system, the observation model, and the black-box recognition model. Unlike previous approaches, our framework can incorporate non-trivial distributions of observation noise and has constant time and space complexity. These features make our approach amenable to real-time applications and the potential to automate analysis and experimental design in ways that testably track and modify behavior using stimuli designed to influence learning.

研究の動機と目的

• 神経系における未知の潜在的神経ダイナミクスおよび観測モデルの学習という課題に取り組む。
• 動的システムのパラメータ、観測モデルのパラメータ、認識モデルのパラメータを同時に最適化するオンライン学習フレームワークを開発する。
• 非自明で非ガウス分布の観測ノイズ分布下でも、リアルタイムの推論と学習を可能にする。
• 神経プロステティクスおよび行動介入における自動実験設計およびフィードバック制御を支援する。

提案手法

• 潜在状態のダイナミクス、観測モデル、認識モデルを同時に最適化するために、確率的勾配変分ベイズ（SGVB）を用いる。
• 真の潜在状態の事後分布を近似するためにブラックボックス認識モデルを用いる。
• オンライン学習中に定常な時間的・空間的計算量を維持するために再帰的推論を適用する。
• 確率的観測モデルを通じて柔軟で非ガウス分布の観測ノイズ分布を組み込む。
• 動的システムとフィルタリングされた潜在状態を同時に学ぶために二重推定アプローチを活用する。
• 新しいデータでモデルパラメータを段階的に更新することで、オンライン適応を可能にする。

実験結果

リサーチクエスチョン

• RQ1 統合的オンラインフレームワークは、神経系における非線形潜在的ダイナミクスと非ガウス分布の観測モデルを同時に学習可能か？
• RQ2 複雑で非線形な状態空間モデルのオンライン学習において、定常な時間的・空間的計算量をどのように維持できるか？
• RQ3 このフレームワークは、適応的刺激を用いて行動の追跡および修正をリアルタイムで行うのにどの程度対応できるか？
• RQ4 本手法は、神経記録で一般的に見られる非自明な観測ノイズ分布を効果的に扱えるか？
• RQ5 従来のオフラインまたはバッチ手法と比較して、再帰的変分ベイズアプローチは性能およびスケーラビリティにおいてどのように差を示すか？

主な発見

• 提案手法は定常な時間的・空間的計算量を達成し、スケーラブルなオンライン学習を可能にする。
• 非ガウス分布の観測ノイズを効果的にモデル化でき、現実的な神経データ解析において極めて重要である。
• リアルタイム推論とパラメータ更新をサポートするため、クローズドループ実験制御に適している。
• ダイナミクス、観測モデル、認識モデルの共同最適化は、分離最適化アプローチよりも推定精度を向上させる。
• 学習された神経ダイナミクスに基づいて刺激を動的に適応させることで、自動実験設計を可能にする。
• 再帰的構造により、過去のデータを保存せずに効率的な段階的学習が可能となり、実用的導入性が向上する。