[論文レビュー] Neural system identification for large populations separating "what" and "where"

David Klindt, Alexander S. Ecker+2 more|arXiv (Cornell University)|Nov 7, 2017

Neural dynamics and brain function参考文献 23被引用数 47

ひとこと要約

本論文は、大規模な神経集団において空間的受容 field の位置（'where'）と共有非線形特徴計算（'what'）を明示的に分離する因子化・スパースなリードアウト層を備えた深層畳み込みニューラルネットワーク（CNN）を提案する。これらの要素を分離することで、限られたデータ上でのエンドツーエンド学習が可能となり、マウスのV1応答予測において最先端の性能（平均テスト相関係数 r = 0.50）を達成するとともに、細胞タイプ分類のための機能的バーコードを提供する。

ABSTRACT

Neuroscientists classify neurons into different types that perform similar computations at different locations in the visual field. Traditional methods for neural system identification do not capitalize on this separation of 'what' and 'where'. Learning deep convolutional feature spaces that are shared among many neurons provides an exciting path forward, but the architectural design needs to account for data limitations: While new experimental techniques enable recordings from thousands of neurons, experimental time is limited so that one can sample only a small fraction of each neuron's response space. Here, we show that a major bottleneck for fitting convolutional neural networks (CNNs) to neural data is the estimation of the individual receptive field locations, a problem that has been scratched only at the surface thus far. We propose a CNN architecture with a sparse readout layer factorizing the spatial (where) and feature (what) dimensions. Our network scales well to thousands of neurons and short recordings and can be trained end-to-end. We evaluate this architecture on ground-truth data to explore the challenges and limitations of CNN-based system identification. Moreover, we show that our network model outperforms current state-of-the art system identification models of mouse primary visual cortex.

研究の動機と目的

• 限られた実験データにおける大規模神経集団における複雑な非線形神経計算の同定という課題に取り組むこと。
• 特に個々のニューロンの受容 field 位置の推定が困難であるという、CNN を用いた神経系同定のトレーニングにおけるボトル neck を克服すること。
• 神経計算の空間等長性を活用し、ニューロン間で共有される非線形特徴空間を学習しつつ、空間的次元と特徴次元を分離すること。
• 既存のモデルを上回る性能を示す、スケーラブルでエンドツーエンド学習可能なアーキテクチャを構築すること。
• 学習された特徴重みを「バーコード」として用いることで、機能的細胞タイプ分類の原理的枠組みを提供すること。

提案手法

• すべてのニューロンに共通する非線形特徴空間を学習するため、共有畳み込み層を設計する。
• スパースで因子化されたリードアウト層を実装し、空間的（where）と特徴的（what）次元を分離することで、パラメータ数を削減し最適化を改善する。
• 限られた神経応答データ上でバックプロパゲーションを用いて、ネットワーク全体をエンドツーエンドで学習する。
• スパイク刺激平均から導出された固定された空間マスクを用いて受容 field 位置を初期化することで、収束性を向上させる。
• シミュレートされた真値データおよび公開データセットから得られた実際のマウス V1 データの両方を対象にモデルを適用する。
• ホールドアウトされたテストセットにおける予測応答と観測応答の相関を用いて、性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 共有で深い特徴空間は、大規模集団における神経系同定の予測性能を向上させるか？
• RQ2 受容 field 位置の推定（'where'）と特徴計算（'what'）を分離することで、モデルのスケーラビリティとデータ効率が向上するか？
• RQ3 提案された因子化リードアウトアーキテクチャは、全結合型や非畳み込み型の代替手法と比較して、神経応答予測において優れているか？
• RQ4 学習された特徴重みは、神経細胞タイプ分類のための機能的バーコードとして機能するか？
• RQ5 予測性能を最大化するために、記録時間と集団サイズの最適なトレードオフは何か？

主な発見

• 因子化リードアウトを備えた本提案 CNN は、マウス V1 の神経応答と平均で r = 0.50 のテスト相関を達成し、先行する最先端モデルを上回った。
• 畳み込み不変性を用いないにもかかわらず、3層全結合ネットワークを用いた Antolik et al. [19] よりも優れた性能を示したが、これは後者の方が単純であるにもかかわらずである。
• 因子化リードアウトを備えないモデル（標準的な CNN に全結合リードアウトを適用したモデルなど）は顕著に性能が低く、アーキテクチャ上の分離が不可欠であることが示された。
• 性能曲線から、神経応答分散の説明において、記録時間の延長よりも集団サイズの拡大がはるかに効率的であることが示唆された。
• 学習された特徴重みは、共有計算に基づく原理的な機能的クラスタリングを可能にする、機能的バーコードとしての役割を果たしている。