[論文レビュー] Balanced Information Storage and Transfer in Modular Spiking Neural Networks

Pedro A. M. Mediano, Murray Shanahan|arXiv (Cornell University)|Aug 15, 2017

Neural dynamics and brain function参考文献 34被引用数 4

ひとこと要約

本研究は、調整可能な長距離結合を有するモジュラー化スパikingニューラルネットワークを用いて、情報の保存と伝達のバランスを調査する。結合再接続確率 $p$ を変化させることで、中間的な $p$ 値において臨界的状態が出現し、アバランチダイナミクスがべき乗則統計に従い、情報の保存と伝達が最大限にバランスとられる。これは、実験的脳データと類似している。

ABSTRACT

While information processing in complex systems can be described in abstract, general terms, there are cases in which the relation between these computations and the physical substrate of the underlying system is itself of interest. Prominently, the brain is one such case. With the aim of relating information and dynamics in biological neural systems, we study a model network of spiking neurons with different coupling configurations, and explore the relation between its informational, dynamical, and topological properties. We find that information transfer and storage peak at two separate points for different values of the coupling parameter, and are balanced at an intermediate point. In this configuration, avalanches in the network follow a long-tailed, power law-like distribution. Furthermore, the avalanche statistics at this point reproduce empirical findings in the biological brain.

研究の動機と目的

• 抽象的な情報理論的モデルにとどまらず、神経ネットワークの物理的基盤がどのように自己組織的計算を生み出すかを理解すること。
• スパキングニューラルネットワークにおけるネットワークトポロジー、動的状態、情報処理の相互作用を調査すること。
• 情報の保存と伝達が最適にバランスとられる構成を特定し、臨界的ダイナミクスと関連付けること。
• 理論的ネットワーク挙動と生物学的脳における実験的発見（特にべき乗則に従うアバランチ統計）を結びつけること。
• 線形性の変化が結合構造にどのように依存するかを、情報理論的測定法を用いて調査すること。

提案手法

• 800個の興奮性ニューロンと200個の抑制性ニューロンを有する1000ニューロンのモジュラー・ネットワークを構築し、8つの興奮性モジュール内で10%のエッジ密度を確保する。
• 長距離結合は、確率 $p$ を用いた再接続プロセスによって導入され、これにより局所的（モジュール内）結合とグローバル（モジュール間）結合のバランスが制御される。
• ニューロンのダイナミクスは、興奮性および抑制性ニューロンに生物学的に妥当なパrameterを用いたIzhikevichスパキングニューロンモデルでモデル化される。
• 情報の保存と伝達は、相互情報量のKSG非パラメトリック推定器を用いて測定され、線形ガウス推定器と比較されることで非線形性の程度が評価される。
• 時系列データは1階および2階差分をとることで、スペクトル成分を探索し、低周波成分を抑制することで、高周波成分のダイナミクスへの感受性を高める。
• アバランチ統計は、スパイクの連鎖を検出することで解析され、そのサイズ分布がべき乗則スケーリングを示すかを経験的フィットでテストする。

実験結果

リサーチクエスチョン

• RQ1 モジュラー化スパキングネットワークにおける局所的結合とグローバル結合のバランスが、情報の保存と伝達にどのように影響するか？
• RQ2 情報の保存と伝達が最大限にバランスとられる際の再接続パラメータ $p$ の値は何か？
• RQ3 情報処理のバランス点付近で、ネットワークは臨界的ダイナミクス（特にべき乗則に従うアバランチ）を示すか？
• RQ4 神経相互作用の性質（線形対非線形）は結合構造にどのように依存し、情報理論的測定値にどのように反映されるか？
• RQ5 本モデルのアバランチ統計は、生物学的脳からの実験データとどの程度一致するか？

主な発見

• 情報の保存と伝達は再接続パラメータ $p$ の異なる値でピークを示し、最大バランスは中間的な $p$ 値で達成される。
• バランス点では、アバランチサイズ分布が長尾的でべき乗則に類似した分布を示し、生物学的脳の実験的発見と一致する臨界指数を示す（例：Beggs & Plenz, 2003）。
• 競合的（ウィンターキャップ）から協同的（グローバル）なダイナミクスへの遷移は $p \in (0.2, 0.4)$ の範囲で発生し、情報多様性と臨界統計のピークと一致する。
• 低 $p$ では非線形相互作用が支配的であり、高 $p$ では線形相互作用が顕著になる。これは、非パラメトリック推定器と線形ガウス推定器との間のギャップが増大することで示される。
• 時系列の差分処理により低周波成分が抑制され、線形と非パラメトリックMI推定値の差が強調され、特にD1およびD2で顕著になる。これは、線形相互作用が主に低周波成分に集中していることを確認する。
• 本モデルの臨界的状態—情報処理のバランスとべき乗則に従うアバランチを特徴とする—は、トポロジー、ダイナミクス、情報理論の相互作用から自然に出現する。これは神経計算のハイブリッド的視点を支持する。