[論文レビュー] Point Neurons with Conductance-Based Synapses in the Neural Engineering Framework

Andreas Stöckel, Aaron R. Voelker+1 more|arXiv (Cornell University)|Oct 20, 2017

Advanced Memory and Neural Computing参考文献 5被引用数 5

ひとこと要約

本稿では、電圧依存的スケーリング変換を用いて、現在のベースのNEFネットワークを導電度ベースのシナプスに適応する手法を提案する。フィードフォワードネットワークでは有効であるが、統合のような再帰的ダイナミクスでは、トーニングカーブにおけるスパイク開始の遅れにより性能が低下する。これは、単純な重み再スケーリングではなく、全重み行列の反復最適化の必要性を示唆している。

ABSTRACT

The mathematical model underlying the Neural Engineering Framework (NEF) expresses neuronal input as a linear combination of synaptic currents. However, in biology, synapses are not perfect current sources and are thus nonlinear. Detailed synapse models are based on channel conductances instead of currents, which require independent handling of excitatory and inhibitory synapses. This, in particular, significantly affects the influence of inhibitory signals on the neuronal dynamics. In this technical report we first summarize the relevant portions of the NEF and conductance-based synapse models. We then discuss a naïve translation between populations of LIF neurons with current- and conductance-based synapses based on an estimation of an average membrane potential. Experiments show that this simple approach works relatively well for feed-forward communication channels, yet performance degrades for NEF networks describing more complex dynamics, such as integration.

研究の動機と目的

• 線形な電流ベースのNEFフレームワークと生物学的に現実的な導電度ベースのシナプスの間のギャップを埋めること。
• 膜膜電位と逆転電位に依存する導電度ベースのシナプスによって生じる非線形性に対処すること。
• 電流ベースのNEF重み行列を単純な変換によって導電度ベースの実装に保存できるかどうかを評価すること。
• NEF形式における導電度ベースのシナプスを用いた場合の再帰的ネットワークの性能制限を特定すること。

提案手法

• 電圧依存的スケーリング要因を組み込むことで、NEFシナプス電流式の導電度ベースの同等式を導出する。
• 期待される平均膜膜電位を用いて、このスケーリング要因を推定し、電流から導電度への変換を近似する。
• 既存の電流ベースのNEF重み行列にこの変換を適用し、一貫性を保つためにバイアス電流を除去する。
• フィードフォワードおよび再帰的ネットワークにおけるベンチマーク実験を通じて、元の電流ベースモデルと比較して性能を検証する。
• 特にシミュレーションで観察されたトーニングカーブのシフト、特に遅延したスパイク開始を分析する。
• 標準的なNEFソルバーが導電度ベースのシナプスでは機能しないことが判明し、重み行列全体の最適化が必要であることが明らかになった。

実験結果

リサーチクエスチョン

• RQ1 単純な変換によって電流ベースのNEF重み行列を機能的な導電度ベースの同等物に変換できるか？
• RQ2 フィードフォワード通信チャネルにおいて、導電度ベースのシナプスと電流ベースのシナプスの性能はどのように比較されるか？
• RQ3 なぜ導電度ベースのシナプスを用いた場合、統合器のような再帰的ネットワークで性能が低下するのか？
• RQ4 特に遅延したスパイク開始を示すトーニングカーブのシフトが、導電度ベースのNEFネットワークにおける性能のずれをどの程度説明できるか？
• RQ5 全重み行列を再トレーニングせずに、NEFフレームワークを導電度ベースのシナプスに適応することは可能か？

主な発見

• 提案された変換により、バイアス電流を除去した場合、フィードフォワードネットワークでは元の電流ベースのモデルと比較して最小限の誤差で良好な性能を維持する。
• 統合器のような再帰的ネットワークでは、期待されるダイナミクスからの系統的なずれが生じ、特に信号の低減と遅延応答が顕著である。
• 導電度ベースのニューロンは、電流ベースのニューロンと比較して、遅れのあるスパイク開始を示すシフトしたトーニングカーブを示し、これが性能の低下を説明する可能性がある。
• 平均膜膜電位から導出された電圧依存的スケーリング要因は合理的な近似を提供するが、完全な非線形ダイナミクスを捉えるには不十分である。
• 単純な重み行列変換では再帰的ネットワークでは不十分であり、全重み行列の反復最適化が必要であり、計算コストが増加する。
• 予備的な結果から、導電度ベースのNEFネットワークは可能ではあるが、標準的なNEFアプローチよりもより複雑なソルバーを必要とする。