[論文レビュー] Targeted Neural Dynamical Modeling

Cole Hurwitz, Akash Srivastava+5 more|arXiv (Cornell University)|Oct 28, 2021

Neural dynamics and brain functionNeuroscience参考文献 25被引用数 22

ひとこと要約

この論文は、非線形状態空間モデルであるTNDM（Targeted Neural Dynamical Modeling）を導入し、行動に関連する要因と関連しない要因に分離された潜在的ダイナミクスを共同でモデリングすることで、神経活動と行動を統合的に扱う。TNDMは順次的変分オートエンコーダ（sVAE）を用い、神経データと行動の両方を柔軟で因果的な時間的関係を有する低次元の予測可能なダイナミクスに再構築する。PSID や LFADS よりも行動予測性能に優れつつ、神経データの適合度も高く維持する。

ABSTRACT

Latent dynamics models have emerged as powerful tools for modeling and interpreting neural population activity. Recently, there has been a focus on incorporating simultaneously measured behaviour into these models to further disentangle sources of neural variability in their latent space. These approaches, however, are limited in their ability to capture the underlying neural dynamics (e.g. linear) and in their ability to relate the learned dynamics back to the observed behaviour (e.g. no time lag). To this end, we introduce Targeted Neural Dynamical Modeling (TNDM), a nonlinear state-space model that jointly models the neural activity and external behavioural variables. TNDM decomposes neural dynamics into behaviourally relevant and behaviourally irrelevant dynamics; the relevant dynamics are used to reconstruct the behaviour through a flexible linear decoder and both sets of dynamics are used to reconstruct the neural activity through a linear decoder with no time lag. We implement TNDM as a sequential variational autoencoder and validate it on simulated recordings and recordings taken from the premotor and motor cortex of a monkey performing a center-out reaching task. We show that TNDM is able to learn low-dimensional latent dynamics that are highly predictive of behaviour without sacrificing its fit to the neural data.

研究の動機と目的

• 既存の潜在的ダイナミクスモデルが行動に関連する神経ダイナミクスと関係のない変動要因を分離できないという限界に対処すること。
• 時間遅れのない関係を仮定し、非線形ダイナミクスを捉えられない線形モデル（例：PSID）の制約を克服すること。
• 潜在的ダイナミクスと行動との間で柔軟で因果的な時間的依存関係を持つように、神経活動と行動を共同でモデリングする手法を開発すること。
• 行動に関連する要因と関連しない要因の分離を強制することで、神経集団ダイナミクスの解釈可能性と予測性能を向上させること。
• 中心から外への到達タスク中に得られたサルの前運動野および運動野の神経記録と合成データの両方でモデルを検証すること。

提案手法

• TNDMは、非線形状態空間モデルにおけるアンモライズド推論を実現するため、順次的変分オートエンコーダ（sVAE）を用いる。これにより、複雑なダイナミクスの効率的学習が可能になる。
• モデルは潜在的ダイナミクスを2つの成分に分解する：行動に関連するダイナミクス（因果的線形デコーダによって駆動）と行動に関係のないダイナミクス（行動とは無関係）。
• 関連する要因と関係のない要因の初期条件分布に、分離を促進するための分離ペナルティを適用する。
• 行動に関連するダイナミクスは、時間遅れのある因果的線形デコーダを介して行動を再構築する。これにより、即時の一致を超える柔軟な時間的関係を捉えることができる。
• 関連する要因と関係のない要因の両方が、時間遅れのない線形デコーダを用いて組み合わされ、観測された神経活動を再構築する。このアプローチにより、データの忠実性が保たれる。
• モデルは、神経データと行動の両方の再構築をバランスさせる変分下界を用いてエンドツーエンドで訓練され、生物学的に不自然な振動を避けるようにハイパーパrameterが調整されている。

実験結果

リサーチクエスチョン

• RQ1 非線形状態空間モデルは、集団的神経活動において、行動に関連する要因と関連しない要因の神経ダイナミクスを効果的に分離できるか？
• RQ2 潜在的ダイナミクスと行動との間に時間遅れのある因果的関係を許容することで、即時の一致を仮定するモデルと比較して、行動予測性能が向上するか？
• RQ3 初期条件分布への分離ペナルティを適用することで、学習されたダイナミクスの解釈可能性と予測性能が向上するか？
• RQ4 PSID や LFADS といった最先端モデルと比較して、TNDM は行動予測と神経データ再構築の精度において優れているか？
• RQ5 中心から外への到達タスクにおける運動ダイナミクスを捉えるために、行動に関連する潜在空間の最適次元数は何か？

主な発見

• TNDMは、合成データおよび実際の神経データの両方で、PSID や LFADS よりも高い行動予測精度を達成した。特に、2つの関連要因を持つ場合に最も高い予測性能が観察された。
• TNDMにおける行動に関連するダイナミクスは、PSID や LFADS よりも次元が低く、より予測可能であった。これは、2次元到達ダイナミクスの内在次元が低くなる可能性を示唆している。
• モデルの行動予測の飽和点は2つの関連要因で発生した。これは、この次元数が手の速度に関連する核心的ダイナミクスを捉えていることを示している。
• TNDMにおける関係のないダイナミクスは一貫した、タスクに依存しないパターン（初期の揺らぎに続く安定的上昇）を示しており、一般の運動実行プロセスを反映している可能性がある。
• 分離ペナルティは、関連要因と関係のない要因の分離に成功しており、関連要因は運動速度と強く相関し、関係のない要因は最小限のタスク依存性を示していた。
• TNDMは、LFADS と同等の神経データ再構築性能を維持しており、行動予測の向上がデータ適合度の低下を伴わないことを示している。