[論文レビュー] Linear dynamical neural population models through nonlinear embeddings

Yuanjun Gao, Evan Archer+2 more|arXiv (Cornell University)|May 26, 2016

Neural dynamics and brain function参考文献 28被引用数 41

ひとこと要約

この論文は、各ニューロンの発火率が任意の非線形関数を介して潜在的な線形動的状態に滑らかに依存するように拡張された非線形生成モデル、fLDSを提案する。時間に相関を持つ近似事後分布を用いた新規な変分推論スキームにより、fLDSは、実際の神経データセットにおいて、最先端のモデルと比較して優れた予測性能とより解釈可能な低次元表現を達成し、少ない潜在次元数で顕著に高い変動性を捉えている。

ABSTRACT

A body of recent work in modeling neural activity focuses on recovering low-dimensional latent features that capture the statistical structure of large-scale neural populations. Most such approaches have focused on linear generative models, where inference is computationally tractable. Here, we propose fLDS, a general class of nonlinear generative models that permits the firing rate of each neuron to vary as an arbitrary smooth function of a latent, linear dynamical state. This extra flexibility allows the model to capture a richer set of neural variability than a purely linear model, but retains an easily visualizable low-dimensional latent space. To fit this class of non-conjugate models we propose a variational inference scheme, along with a novel approximate posterior capable of capturing rich temporal correlations across time. We show that our techniques permit inference in a wide class of generative models.We also show in application to two neural datasets that, compared to state-of-the-art neural population models, fLDS captures a much larger proportion of neural variability with a small number of latent dimensions, providing superior predictive performance and interpretability.

研究の動機と目的

• 高次元の集団データにおける複雑な神経変動性を捉えるために、線形観測モデルの限界を解決すること。
• 任意の滑らかな非線形性を許容しつつ、低次元で解釈可能な潜在空間を維持する柔軟な生成モデルの開発。
• 非共役で非線形な潜在変数モデルとしての神経スパイクトレインに、構造的近似事後分布を用いた変分推論による効率的推論の実現。
• 非線形観測モデルが、真の動的状態が線形であっても、線形モデルよりも真の低次元神経動的状態をより正確に回復できることの実証。
• 神経データ解析における広範なクラスの潜在LDSモデルに適用可能な汎用的フレームワークの提供。

提案手法

• 各ニューロンのスパイク発火率を、共有の低次元線形動的システム（LDS）状態の任意の滑らかな非線形関数としてモデル化する生成モデルfLDSを提案。
• 非線形観測モデルを用いる：$\lambda_{rti} = f_i(\mathbf{z}_{rt})$、ここで$f_i$は滑らかな関数（例：ガウス過程やニューラルネットワーク）であり、$\mathbf{z}_{rt}$は潜在状態である。
• 非共役モデルにおける効率的推論を可能にする、時間的相関を豊かに捉える新しい近似事後分布を備えた変分推論アルゴリズムを開発。
• 時間的依存性を持つ構造的連続的変分分布を用いて、潜在状態の事後分布を近似する認識モデルを採用。
• スパイク数データにおける過分散および低分散を扱うために、ポアソンおよびガウス・コプーラ（GC）ノイズモデルの両方を適用。
• ハイパーパramータチューニングのための訓練/検証分割を用い、1ステップ先の負の対数尤度（NLL）低下率による予測性能の評価。

実験結果

リサーチクエスチョン

• RQ1 真のデータ生成過程が非線形であっても、潜在動的状態が線形である場合に、非線形観測モデルが低次元神経動的状態の回復を改善できるか？
• RQ2 fLDSは、実際の神経集団データにおいて、最先端の線形モデル（例：PLDS、GCLDS）と比較して、予測性能と説明変動量の両面で優れているか？
• RQ3 特に運動皮質の軌道復元タスクにおいて、fLDSは線形モデルよりも解釈可能でコンactな潜在表現を生成できるか？
• RQ4 提案された変分推論スキームは、複雑で非共役な潜在LDSモデル、特にカウント値の神経データに対して、どれほど効果的に適合できるか？
• RQ5 個々のニューロンごとに柔軟な非線形応答関数を組み込むことで、固定された線形マッピングと比較して神経変動性のモデル化が改善されるか？

主な発見

• マカクのセンター・アウト・リーチングデータにおいて、fLDSは2〜3次元の潜在次元で、10〜20次元を必要とするPLDSやGCLDSを上回る予測性能を示し、テストデータにおける負の対数尤度（NLL）が顕著に低かった。
• マカク運動皮質データセットにおいて、PfLDS（ポアソンfLDS）およびGCfLDS（ガウス・コプーラfLDS）は、2〜3次元の潜在次元で、はるかに大きな潜在次元を要する線形対応モデルを上回る予測尤度を達成した。
• PfLDSが学習した2次元潜在空間は、ターゲット方向ごとに明確に分離されており、空間的ターゲット位置に沿って順序付けられ、高い解釈可能性を示した。
• シミュレーションでは、fLDSは真の低次元非線形多様体を、真の動的状態が線形であっても正しく回復できたが、線形モデルはその構造を捉えられなかった。
• ガウス・コプーラ（GC）ノイズモデルは、スパイク数の低分散をよりよく捉えており、同じデータにおいてGCfLDSはPfLDSに比べて優れた予測性能を示した。
• 提案された変分推論フレームワークは、PoissonおよびGC尤度を用いたfLDSを含む複数のモデルバージョンにおいて、効率的な学習と推論を可能にした。また、実世界の神経データセットへのスケーラビリティも示した。