[論文レビュー] Decomposed Linear Dynamical Systems (dLDS) for learning the latent components of neural dynamics

Noga Mudrik, Yenho Chen+3 more|arXiv (Cornell University)|Jun 7, 2022

Bat Biology and Ecology Studies被引用数 5

ひとこと要約

本稿では、複雑で非定常的かつ非線形な神経動的特性を、より単純で解釈可能な線形成分のスパースな組み合わせとして表現する、新たなモデルである分解型線形力学系（dLDS）を提案する。辞書学習を通じて時変係数を学習することにより、dLDSは動的モード間の滑らかな遷移を捉え、複数のサブネットワークからの集団活動を効率的に分離可能であり、合成データおよび実際のC. elegans神経データにおいて、スイッチドモデルに比べて表現力と解釈可能性に優れている。

ABSTRACT

Learning interpretable representations of neural dynamics at a population level is a crucial first step to understanding how observed neural activity relates to perception and behavior. Models of neural dynamics often focus on either low-dimensional projections of neural activity, or on learning dynamical systems that explicitly relate to the neural state over time. We discuss how these two approaches are interrelated by considering dynamical systems as representative of flows on a low-dimensional manifold. Building on this concept, we propose a new decomposed dynamical system model that represents complex non-stationary and nonlinear dynamics of time series data as a sparse combination of simpler, more interpretable components. Our model is trained through a dictionary learning procedure, where we leverage recent results in tracking sparse vectors over time. The decomposed nature of the dynamics is more expressive than previous switched approaches for a given number of parameters and enables modeling of overlapping and non-stationary dynamics. In both continuous-time and discrete-time instructional examples we demonstrate that our model can well approximate the original system, learn efficient representations, and capture smooth transitions between dynamical modes, focusing on intuitive low-dimensional non-stationary linear and nonlinear systems. Furthermore, we highlight our model's ability to efficiently capture and demix population dynamics generated from multiple independent subnetworks, a task that is computationally impractical for switched models. Finally, we apply our model to neural "full brain" recordings of C. elegans data, illustrating a diversity of dynamics that is obscured when classified into discrete states.

研究の動機と目的

• 神経多様体仮説と力学系を統合するモデルを構築し、神経集団活動の解釈可能で低次元の表現を提供すること。
• 神経動的特性モデル化における表現力と解釈可能性のトレードオフを解決すること。
• 従来のスイッチドまたは線形力学系ではうまく捉えきれない重複する非定常的かつ非線形な動的特性をモデル化できること。
• 神経データにおける複数の独立したサブネットワークからの動的特性の分離と再構築が可能であることを示すこと。
• 実際の神経記録、例えば全脳C. elegansデータに本モデルを適用し、隠れた動的多様性を明らかにすること。

提案手法

• dLDSは、各成分が時変係数行列 $\bm{F}_t$ を持つ低次元の線形力学系である、時変係数を持つ線形力学系（LDS）の線形結合として神経動的特性をモデル化する。
• 本モデルは、動的特性を基本成分のスパースな組み合わせとして表現するための辞書学習フレームワークを用い、複雑な動的特性の効率的かつ解釈可能な表現を可能にする。
• 時変係数 $\bm{c}_t$ は再帰的推定により追跡され、非定常性やモード間の滑らかな遷移に適応できる。
• 本手法は、最近のスパースベクトル追跡の進展を活用し、動的係数と成分活性を同時に学習する。
• モデルは連続時間または離散時間の定式化を用い、潜在状態から観測データへマッピングする線形観測モデル $\bm{y}_t = \bm{W}\bm{x}_t + \bm{v}_t$ を採用する。
• 非定常性を時変係数によってモデル化することで、非線形性を扱えるようになり、複雑な非線形基底関数の必要性を回避できる。

実験結果

リサーチクエスチョン

• RQ1 分解型線形力学系モデルは、スイッチドモデルや標準的なLDSモデルに比べ、非定常的かつ非線形な神経動的特性をより効果的に捉えることができるか？
• RQ2 dLDSは神経集団データにおける複数の独立したサブネットワークから生成された複雑で重複する動的特性を、どの程度効果的に再構築できるか？
• RQ3 dLDSは、離散状態モデルによって隠蔽されている、C. elegansからの実際の神経記録（例：全脳データ）における隠れた動的多様性をどの程度明らかにできるか？
• RQ4 時変係数 $\bm{c}_t$ は、内在的な非線形相互作用とシステム行動の変化を区別するマーカーとして機能するか？
• RQ5 dLDSは、二値スイッチングモデルに比べ、動的モード間の滑らかな遷移をどの程度効果的にモデル化できるか？

主な発見

• dLDSは連続時間および離散時間の両設定において、元のシステムを高精度に近似でき、動的モード間の滑らかな遷移を高い忠実度で捉えている。
• 本モデルは、複数の独立したサブネットワークから生成された集団動的特性を、スイッチドモデルでは計算的に不可能なほど効率的に分離・再構築できる。
• C. elegansの全脳記録において、dLDSは、データが離散状態に分類された場合に隠蔽されていた多様な動的行動を明らかにした。
• 時変係数 $\bm{c}_t$ は、FitzHugh-Nagumo系やLorenz系のような非線形系の規則性を追跡でき、非周期的変化や非定常性の検出を可能にした。
• 与えられたパrameter数に対して、dLDSはスイッチドLDSモデルに比べて表現力に優れ、特に重複する非定常的動的特性のモデル化において顕著な優位性を示した。
• データの正規化と中心化が推論の安定性を著しく向上させたため、今後の拡張においてバイアス項の導入がさらに頑健性を向上させると予想される。