[論文レビュー] Understanding Neural Coding on Latent Manifolds by Sharing Features and Dividing Ensembles

Martin Bjerke, Lukas Schott+4 more|Cold Spring Harbor Laboratory Institutional Repository (Cold Spring Harbor Laboratory)|Oct 6, 2022

Neural dynamics and brain function被引用数 5

ひとこと要約

本稿では、神経細胞の潜在多様体上での神経コード化を改善するため、ニューロン間でチューニングカーブ特徴を共有し、ソフトクラスタリングを用いた教師なしアンサンブル検出を可能にする微分可能で解釈可能なニューラル潜在変数モデルを提案する。この手法は優れた性能とより良い最適化を達成し、実際の神経データから明確に分離されたグリッド細胞アンサンブルとトーラス型の潜在多様体構造を正確なチューニングカーブ予測とともに成功裏に回復した。

ABSTRACT

Systems neuroscience relies on two complementary views of neural data, characterized by single neuron tuning curves and analysis of population activity. These two perspectives combine elegantly in neural latent variable models that constrain the relationship between latent variables and neural activity, modeled by simple tuning curve functions. This has recently been demonstrated using Gaussian processes, with applications to realistic and topologically relevant latent manifolds. Those and previous models, however, missed crucial shared coding properties of neural populations. We propose feature sharing across neural tuning curves which significantly improves performance and helps optimization. We also propose a solution to the ensemble detection problem, where different groups of neurons, i.e., ensembles, can be modulated by different latent manifolds. Achieved through a soft clustering of neurons during training, this allows for the separation of mixed neural populations in an unsupervised manner. These innovations lead to more interpretable models of neural population activity that train well and perform better even on mixtures of complex latent manifolds. Finally, we apply our method on a recently published grid cell dataset, and recover distinct ensembles, infer toroidal latents and predict neural tuning curves in a single integrated modeling framework.

研究の動機と目的

• 既存の神経潜在変数モデルに共通するコード化特性の欠如が性能と解釈可能性を制限するという問題に対処する。
• 異なる潜在多様体によって制御されるニューロン群の識別を可能にする教師なしのアンサンブル検出を実現することで、アンサンブル検出問題を解決する。
• パラメトリックなチューニングカーブデコーダーを用いることで生物学的解釈可能性を維持するとともに、効果的な学習のためのエンド・ツー・エンドの微分可能性を保証する。
• グリッド細胞集団に見られるような複雑で混合された潜在多様体のモデリングにおける最適化と一般化を向上させる。
• 実際の神経データから潜在トポロジーと神経チューニングカーブの両方を回復する統合的フレームワークを提供する。

提案手法

• 深層ニューラルネットワークエンコーダと微分可能でパラメトリックなチューニングカーブデコーダを備えた変分オートエンコーダに類似したアーキテクチャを用いる。
• デコーダにおける特徴の共有を導入し、ニューロン全体で共通のチューニングカーブ特徴のベースを用いることで、一般化性能と性能を向上させる。
• トレーニング中にニューロンのソフトクラスタリングを実装し、各ニューロンを1つ以上の潜在多様体に割り当てる。これにより、教師なしのアンサンブル検出が可能になる。
• ポisson尤度とガウス過程にインspiredされたチューニングカーブを用いて、潜在変数から神経スパイク活動へのマッピングをモデル化する。
• テスト時にハイブリッド推論を採用し、変分後退分布と決定論的推論を組み合わせることで、予測精度を向上させる。
• モデル性能を最適化するため、500の構成に対してランダムサーチを用いたハイパーパramータサーチを実施する。

実験結果

リサーチクエスチョン

• RQ1 神経チューニングカーブ間での特徴共有は、神経潜在変数モデルの性能と最適化に寄与するか？
• RQ2 ニューロンの教師なしソフトクラスタリングは、異なる潜在多様体によって制御される明確なアンサンブルの検出を可能にするか？
• RQ3 共有特徴とアンサンブル検出の統合は、グリッド細胞に見られるようなトーラス型多様体を含む複雑な潜在トポロジーの回復を向上させるか？
• RQ4 本モデルは、実際の神経データから神経チューニングカーブの予測と潜在構造の推論を高精度に同時に実現できるか？
• RQ5 テスト時のハイブリッド推論は、標準的な変分推論と比較して予測性能にどのように影響するか？

主な発見

• 特徴共有はモデル性能を顕著に向上させ、最も優れたバージョン（fae-b）は、45個のニューロンと1000時間ポイントを含む合成データで平均負の対数尤度（NLLH）が8267に達した。
• テスト時のハイブリッド推論戦略は、すべての構成で顕著な性能向上をもたらし、標準的な変分推論と比較してNLLHと測地線誤差を低減した。
• 本モデルは実際のグリッド細胞データセットにおいて明確に分離されたアンサンブルを成功裏に回復した。これは、空間的解像度が異なるモジュールを特定できたことを示している。
• 本手法は、既知のグリッド細胞組織と整合するトーラス型の潜在多様体を推論でき、生物学的妥当性を裏付けた。
• ハイパーパramータ分析の結果、低い学習率、大きなバッチサイズ、およびKL正則化の低減が性能向上に寄与することが分かった。一方、学習分散の増加は予測精度を向上させた。
• 最良の構成では、測地線誤差が0.05にまで低下し、潜在空間再構成の高精度を示した。